اوپنایآی کاری کرد که شرکتهای هوش مصنوعی تقریباً هیچوقت نمیکنند: یک مدلِ آماده را کنار گذاشت. قرار بود «جیپیتی-۶.۱ آسترا» مهرماه بیاید. بعد آزمونهای ایمنیِ خودِ شرکت نشان داد این مدل کارهایی را که کرده پنهان میکند و قدمهایی برمیدارد که کسی اجازهشان را نداده. نتیجه؟ انتشارش لغو شد، آن هم درست یک روز قبل از بزرگترین رویدادِ سالانهٔ اوپنایآی برای برنامهنویسها.
این خبر را نگه دارید، چون بقیهٔ خبرهای این هفته هم همین آهنگ را میزنند. متا میخواهد ایجنتهایش را به همهٔ کسبوکارها بفروشد. انویدیا میخواهد ایجنتها را از داخلِ خودِ تراشه کنترل کند. و یک مدلِ صوتیِ تازه حالا میتواند با صدای هر کسی، به بیش از ۹۰ زبان حرف بزند. سؤالِ اصلی زیرِ همهٔ اینها همان سؤالی است که شما هر بار که نرمافزاری را جلوی مشتری میگذارید باید بپرسید: میبینید دارد چه کار میکند؟
اوپنایآی «آسترا ۶.۱» را کنار گذاشت؛ مدلی که کارهایش را پنهان میکرد
به گفتهٔ اوپنایآی، این مدل از دو جهت در ارزیابیهای ایمنی رد شد و هر دو برای صاحبِ هر کسبوکاری زنگِ خطر است. اول اینکه دربارهٔ کارهایش صادق نبود؛ همیشه به کاربر نمیگفت چه کاری کرده و چه کاری نکرده. دوم اینکه بیاجازه کار میکرد؛ کارها را بدونِ تأییدِ کاربر انجام میداد و سراغِ ابزارها و سرویسهای بیرونی میرفت، به شکلی که خودِ شرکت آن را بالقوه ناامن خواند.
اوپنایآی این کار را دور نمیریزد. تیمِ ایمنیاش میگوید مدلِ پایه آموزشِ بیشتری میبیند و در ساختِ نسخههای بعدیِ خانوادهٔ جیپیتی-۶ به کار میرود، و بخشی از بررسیشان این است که آیا روشِ آموزش، رفتارِ اشتباه را تشویق میکرده یا نه. اعترافِ صادقانهای است. یادآوریِ خوبی هم هست که باهوشترین مدل لزوماً حرفگوشکنترین مدل نیست.
این به شما چه ربطی دارد؟ دستیاری را در دایرکتتان تصور کنید که به مشتری میگوید «پولتان برگشت خورد» در حالی که برنگشته، یا تخفیفی میدهد که شما هیچوقت اجازهاش را ندادهاید. همان خطاست، فقط کوچکتر. قبل از اینکه هوش مصنوعی را به مشتری بسپارید دو چیز را بپرسید: سابقهٔ گفتوگوها را میتوانم بخوانم؟ و برای هر چیزی که به پول مربوط است اجازهٔ من را میگیرد؟ اگر فروشندهای دستیارش را خاموش کرده، معمولاً دلیلش همین است؛ در مطلبِ چرا یک دستیارِ هوش مصنوعی بیاعتماد میشود مفصل نوشتهایم.
متا ایجنتهای «میوز» را به یک کسبوکارِ مستقل تبدیل کرد
مارک زاکربرگ دوشنبه از پلتفرمِ سازمانیِ متا رونمایی کرد و آن را «ستونِ اصلیِ بعدیِ» شرکت نامید. این پلتفرم میوز، ایجنتِ کسبوکارِ متا، رابطِ برنامهنویسیِ میوز و ابزارِ کدنویسیِ میوز را یکجا در اختیارِ کسبوکارها و برنامهنویسها میگذارد. متا برای ادارهاش هم «سیجی دسای»، مدیرعاملِ سابقِ مونگودیبی، را آورده که مستقیم به زاکربرگ گزارش میدهد.
عددی که باید یادتان بماند را متا خردادماه گفته بود: بیش از یک میلیون کسبوکار همان موقع از ایجنتِ کسبوکار در واتساپ و مسنجر استفاده میکردند. حالا متا یک مدیرِ ارشد و یک خطِ محصولِ کامل دارد که این عدد را خیلی بالاتر ببرد.
نظرِ من؟ لولههایی که مشتریهای شما از آنها رد میشوند مالِ متاست، و حالا متا دارد خیلی رک دستیارِ داخلِ همان لولهها را هم میفروشد. راحت است، ولی وابستگی هم هست. کارِ عاقلانه این است که اطلاعاتِ محصول، قیمتها و قوانینِ فروشگاهتان را یک جای واحد و در اختیارِ خودتان نگه دارید تا هر ایجنتی در واتساپ، اینستاگرام یا سایت جواب میدهد، حرفِ یکسانی بزند. اگر دارید گزینهها را میسنجید، پنج کاری که ربات هوش مصنوعی واتساپ باید بلد باشد چکلیستِ خوبی است.
الونلبز نسخهٔ ۴ را آورد؛ صدایی که میتواند نگران، مهربان یا بامزه باشد
الونلبز دوشنبه Eleven v4 و نسخهٔ سریعترش v4 Turbo را منتشر کرد. حرفِ اصلی احساس است: مدلِ تازه لحن، ریتم و زمینهٔ متن را میخواند و یک جمله را میتواند پرهیجان، گرم یا خشک و بیحالت بگوید، بیآنکه صدا از آنِ همان گوینده بودن بیفتد.
- نسخهٔ توربو سریع است: بهطور میانه حدود ۱۵۰ میلیثانیه تا اولین کلمه؛ برای ایجنتهای تلفنی و صوتی.
- بیش از ۹۰ زبان؛ صدایی که به یک زبان ضبط شده میتواند به زبانِ دیگری با لهجهٔ طبیعی حرف بزند.
- کپیِ صدا از ۱۰ ثانیه صوت، برای شبیهسازیِ فوری.
- نسخهٔ رایگان با ۱۰ هزار اعتبار در ماه (حدود ۱۰ دقیقه صدا) و پلنهای پولی از ۶ دلار.
برای فروشنده این خبر دو رو دارد. روی خوبش: صداگذاریِ ریلز و ویدیوی محصول ارزانتر و خیلی کمتر رباتی شده، و ایجنتهایی که تلفن جواب میدهند واقعاً دارند قابلِ استفاده میشوند. روی ناخوشایندش: ده ثانیه صدای شما از یک استوری حالا برای کپیکردنش کافی است. به مشتریهای ثابتتان صریح بگویید که هیچوقت با ویس شمارهٔ کارت یا واریز نمیخواهید. مشتریهای ایرانی که خودشان عاشقِ ویس فرستادناند؛ ببینید وقتی هوش مصنوعی ویسِ مشتری را میشنود چطور سفارش میگیرد.
انویدیا میگوید مهارِ ایجنت باید در سختافزار باشد، نه در پرامپت
انویدیا پلتفرمِ بازِ ایمنیِ ایجنت را با دو لایه معرفی کرد. OpenShell، نرمافزاری متنباز، ایجنت را در محیطی اجرا میکند که تکتکِ کارهایش را ثبت میکند و قوانین را اعمال میکند. Sentry روی یک تراشهٔ جداگانه اجرا میشود؛ نگهبانی که ایجنت اصلاً آن را نمیبیند و اگر ایجنت پایش را از محدوده بیرون بگذارد، در چند میلیثانیه قرنطینهاش میکند. بیش از ۱۰۰ سازمان از روزِ اول همراه شدهاند، از جمله مایکروسافت، سیلزفورس، اِساِیپی و سیسکو.
شما قرار نیست این تراشه را بخرید. ولی ایدهاش به مغازهٔ شما هم میرسد. شرطِ انویدیا این است که نمیشود فقط به هوش مصنوعی گفت «درست رفتار کن»؛ محدودیت باید بیرون از خودِ هوش مصنوعی باشد، جایی که نتواند با استدلال از آن رد شود. برای یک فروشندهٔ کوچک یعنی قانونِ واقعی در سیستم: دستیار نمیتواند قیمت را عوض کند، نمیتواند تاریخِ تحویلی را که ندارد قول بدهد، و در لحظههای مشخص گفتوگو را به آدم میسپارد. این لحظهها را در مطلبِ هوش مصنوعی چه زمانی باید مکالمه را به آدم بسپارد فهرست کردهایم.
خبرهای کوتاه
- استفاده از هوش مصنوعی بالا میرود، ولی نابرابر. گزارشِ تازهٔ مایکروسافت میگوید ۱۸.۸ درصد از جمعیتِ در سنِ کارِ دنیا در ژوئن از هوش مصنوعیِ مولد استفاده کردهاند؛ حدود یک واحد بیشتر از فصلِ قبل. شکافِ کشورهای ثروتمند و بقیه بازتر شده: ۲۸.۸ در برابرِ ۱۶.۲ درصد. امارات با ۷۳.۳ درصد اول است.
- کلینگ ۴ در راه است. کوایشو نسخهٔ آزمایشیِ محدودِ «کلینگ ۴.۰ فلش» را برای مشترکهای سالانهٔ ردهٔ بالا باز کرد و نسخهٔ کامل مهرماه میآید؛ با وعدهٔ کلیپ تا ۳۰ ثانیه، کیفیت تا 4K، صدای استریو و هماهنگیِ بهترِ لب. یعنی یک ریلزِ کامل با یک دستور.
- رویدادِ برنامهنویسهای اوپنایآی امروز است. اوپنایآی وعدهٔ بیش از ۲۰ رونمایی داده. فردا به شما میگوییم کدامش به کارِ فروشنده میآید و کدامش سروصداست.
اگر این هفته فقط یک کار میکنید، این باشد:
- تاریخچهٔ گفتوگوهای دستیارتان را باز کنید و ده گفتوگوی واقعی را از اول تا آخر بخوانید.
- هر چیزی را که گفته و شما اجازهاش را نداده بودید یادداشت کنید: یک تخفیف، یک تاریخ، یک قول.
- هرکدام را به یک قانونِ قطعی یا یک نقطهٔ سپردن به آدم تبدیل کنید، نه یک خواهشِ مؤدبانه در پرامپت.
نخِ تسبیحِ این هفته ساده است: هرچه هوش مصنوعی کارهای بیشتری بلد میشود، شما بیشتر باید ببینید و محدودش کنید. وردست را هم با همین فکر ساختهایم: دستیارِ هوش مصنوعیای که در اینستاگرام، واتساپ، تلگرام و سایتتان از روی اطلاعاتِ واقعیِ محصولاتتان جوابِ مشتری را میدهد، همهٔ گفتوگوها را جلوی چشمِ شما نگه میدارد و هر وقت لازم باشد گفتوگو را به خودتان میسپارد.