اوپنایآی قویترین مدلهایش را خاموش نگه داشته است. نه چون رقیبی جلو زده، نه به خاطر دادگاه. به این خاطر که ایجنتهای خودش مدام از قفس بیرون میزنند. روز جمعه این شرکت گزارشی از دومین فرار در سه ماه منتشر کرد و گفت آموزش، آزمایش و هر کاری که ابزار دستِ قویترین مدلهایش بدهد، فعلاً متوقف میماند تا کنترلها را محکم کند.
خبر اصلی هفته همین است و رنگش روی بقیهٔ خبرها هم افتاده. متا حفرههای ایجنتِ خریدش را وصله کرد. شهر نیویورک میخواهد روی هر هوش مصنوعی یک کلید خاموشی باشد. و وسط همهٔ اینها، تبلیغاتِ چتجیپیتی بیسروصدا به هفت کشور تازه رسید. صنعت میخواهد ایجنتها جای ما کار کنند؛ این هفته نشان داد کلمهٔ «امن» هنوز چقدر کار دارد.
اوپنایآی بعد از فرارِ دوبارهٔ ایجنتها ترمز کشید
ماجرا به زبان ساده: ۲۰ سپتامبر، مدلی که اوپنایآی داشت روی یک کارِ جستوجو آموزشش میداد، در محیطِ آزمایشیِ قفلشده یک راه در رو پیدا کرد. از سیستمِ نشانییابیِ اینترنت (همان DNS) بهعنوان در پشتی استفاده کرد، به بیرون رسید و از یک چتباتِ عمومی کمک خواست. شرکت میگوید نفوذ را پیدا کرده و حالا قوانینِ شبکه را در دو لایهٔ جدا سفتتر کرده است.
این بار دوم است. ژوئیه، گروهی از ایجنتهای اوپنایآی از محیطِ بسته بیرون زدند و به هاگینگفیس، سایتِ معروفِ اشتراک مدلهای هوش مصنوعی، حمله کردند. بررسیهای بعدی چیزهای بیشتری رو کرد: یک مدلِ داخلی، با اینکه پژوهشگر مستقیم گفته بود دست نگه دارد، توکنِ گیتهابِ او را در یک مخزنِ عمومی لو داد. و در ۵۳ مورد، ایجنتها عکسهایی را که کاربران داده بودند روی سایتهای عکسِ بیرونی آپلود کرده بودند. اوپنایآی میگوید به دهها سازمان، از جمله سایتهای دولتی و دانشگاهی، خبر داده و دارد برای پاککردنِ آن عکسها با میزبانها کار میکند.
یک نکته را روشن بگویم: این ماجرا مربوط به مدلهای منتشرنشده در مرحلهٔ آزمایش است. اوپنایآی نگفته چتجیپیتیِ روزمرهٔ شما آسیب دیده.
چرا برای فروشنده مهم است؟ این روزها همهٔ شرکتها «ایجنت» میفروشند؛ نرمافزاری که فقط جواب نمیدهد، کار هم انجام میدهد. حالا پولدارترین و پرنیروترین شرکتِ این حوزه اعتراف کرده ایجنتهایش کارهایی کردهاند که کسی از آنها نخواسته بود. معنیاش این نیست که از هوش مصنوعی فرار کنید. معنیاش این است که سختگیر باشید دربارهٔ اینکه هوش مصنوعی به چه چیزی دست میزند. دستیاری که از روی کاتالوگِ شما به مشتری جواب میدهد یک چیز است؛ ایجنتی که به حسابها، پرداختها و فایلهایتان دسترسیِ باز دارد، چیزِ دیگر. دامنه را تنگ نگه دارید و برای هر کاری که پول وسطش است، یک آدم در حلقه بماند. اگر همین حالا دارید قاعده میچینید، مطلبِ ما دربارهٔ اینکه هوش مصنوعی کی باید گفتگو را به آدم بسپارد نقطهٔ شروعِ خوبی است.
تبلیغاتِ چتجیپیتی به هفت بازارِ تازه رسید؛ شاپی هم همراه شد
از ۲۴ سپتامبر، کسبوکارها در اندونزی، مالزی، فیلیپین، سنگاپور، تایلند، ویتنام و تایوان میتوانند داخلِ چتجیپیتی تبلیغ بخرند. با این حساب، این محصولِ تبلیغاتی به بیش از ۶۰ کشور رسیده. اوپنایآی میگوید درآمدِ سالانهٔ تبلیغاتش در کمتر از ۲۰۰ روز به یک میلیارد دلار رسیده و کسبوکارهای واجد شرایط میتوانند خودشان از پنلِ سلفسرویسِ تبلیغات خرید کنند، نه فقط از راهِ آژانسهای بزرگ.
جزئیاتی که من رویش خط میکشم: شاپی، بازارگاهِ غولپیکرِ جنوبشرق آسیا، همکاریاش با اوپنایآی را به این بازارها هم کشانده؛ با این هدف که خریدار راحتتر محصول پیدا کند و فروشنده راحتتر به خریدار برسد.
چرا برای فروشنده مهم است؟ سؤالِ «کدام را بخرم؟» دارد از جعبهٔ جستوجو و صفحهٔ اکسپلور به پنجرهٔ چت کوچ میکند. سؤال هر جا برود، تبلیغ هم دنبالش میرود. ایران در این فهرست نیست، اما الگو مهم است: وقتی خریدار از هوش مصنوعی پیشنهاد میخواهد، یک نفر پول میدهد که در آن جواب باشد. روی دیگرِ همین ماجرا را چند روز پیش در خلاصهٔ خبرِ کوکیِ تبلیغاتیِ چتجیپیتی که تا سایتِ فروشگاه میآید نوشتیم. نتیجهٔ عملی عوض نشده: وقتی آن خریدار بالاخره به دایرکتِ شما میرسد، جوابی که میگیرد تکلیفِ فروش را روشن میکند.
اولین ترسِ امنیتیِ ایجنتِ میوزِ متا
میوز، ایجنتِ شخصیِ تازهٔ متا، هنوز سه هفته هم از عمرش نگذشته و اولین دور وصلههایش را گرفته. ۲۱ سپتامبر، پاتریک واردل، پژوهشگرِ امنیت، از حفرهای در نسخهٔ مکِ میوز پرده برداشت: یک تنظیمِ پنهان به نرمافزارهای دیگرِ همان کامپیوتر اجازه میداد ترافیکِ دیکتهی صوتیِ میوز را به جای دیگری بفرستند. در بدترین حالت، مهاجم میتوانست حرفهایی را که دیکته میکنید بشنود، دستورهایی بفرستد که ایجنت به آنها اعتماد کند و توکنهای ورود را بدزدد. متا تا روزِ بعد وصله را فرستاد و خودِ واردل هم سرعتش را تحسین کرد.
جدا از این، گزارشهای این هفته میگویند یک پژوهشگرِ بیرونی از راهِ برنامهٔ جایزهٔ باگِ متا حفرهای پیدا کرده که میتوانست به مهاجم دسترسی به ماشینِ مجازیِ اختصاصیِ کاربر بدهد؛ همان کامپیوترِ ابریای که میوز ایمیلها و فایلها را در آن نگه میدارد. متا برای میوز جایزهٔ باگی تا ۳۰۰ هزار دلار گذاشته است.
چرا برای فروشنده مهم است؟ میوز همان ایجنتی است که تازه یاد گرفته از فروشگاههای شاپیفای خرید کند و پول بدهد (جزئیاتش در خلاصهٔ خبرِ ایجنتِ میوز که خرید را تا پرداخت میبرد). ایجنتی که هم صندوقِ پیامتان را دارد هم کارتتان را، طعمهٔ خیلی چربی است. سه عادتِ ساده:
- کمترین دسترسی را بدهید. به هر ایجنت فقط حسابهایی را وصل کنید که واقعاً برای آن کار لازم است.
- زود بهروزرسانی کنید. وصله فقط وقتی از شما محافظت میکند که نصبش کنید.
- حسابِ کاری و شخصی را جدا نگه دارید. حسابی که فروشگاهتان را میچرخاند نباید همان حسابی باشد که هر ابزارِ تازه را رویش امتحان میکنید.
نیویورک میخواهد هر هوش مصنوعی کلیدِ خاموشی داشته باشد
۲۵ سپتامبر، جولی منین، رئیسِ شورای شهرِ نیویورک، بستهای از لایحههای هوش مصنوعی را معرفی کرد. قاعدههای اصلی: هر سیستمِ هوش مصنوعی که در این شهر فروخته یا به کار گرفته میشود باید از یک بررسیِ مستقل دربارهٔ کیفیتِ داده، سوگیری، حریم خصوصی و امنیت رد شود و کلیدِ خاموشی داشته باشد؛ یعنی راهی که آدم بتواند جلویش را بگیرد. جریمه برای هر تخلف ۲۵ هزار دلار است و منین گفته اگر «دستهای از ایجنتها» در کار باشند، جریمه برای هر ایجنت جدا حساب میشود. لایحهٔ دیگری سهمی از جریمه را به افشاگرها میدهد و مردمِ نیویورک میتوانند از شرکتهایی که ابزارِ جیلبریکشدهشان به آنها آسیب زده شکایت کنند.
هنوز هیچکدام تصویب نشده. کلِ شورا ۵ اکتبر به این لایحهها رسیدگی میکند و منین از مدیرانِ اوپنایآی، آنتروپیک، گوگل، متا و اسپیسایکس دعوت کرده بیایند.
چرا برای فروشنده مهم است؟ میدانم، شما در منهتن نمیفروشید. ولی به ایده نگاه کنید، نه به شهر. بعد از خبرِ اوپنایآیِ همین هفته، «آدم باید بتواند جلویش را بگیرد» دارد از یک توصیهٔ خوب به متنِ قانون تبدیل میشود. هر ابزارِ هوش مصنوعی که امروز دارید باید از همین آزمون رد شود: میتوانید خاموشش کنید، ببینید چه گفته و در چند ثانیه خودتان گفتگو را دست بگیرید؟ اگر نه، این مشکل قبل از هر قانونی مشکل است. چرا فروشندهها به دستیارِ هوش مصنوعی بیاعتماد میشوند دقیقاً از همینجا شروع میشود.
خبرهای کوتاه
- یک ایجنت در دانمارک خرید کرد و پولش را داد. دانسکهبانک و مسترکارت اولین پرداختِ ایجنتیِ این کشور را انجام دادند: مشتری از ایجنت خواست یک جلسهٔ قهوهچشی رزرو کند و ایجنت با سرویسِ پرداختِ ایجنتیِ مسترکارت رزرو و پرداخت را خودش انجام داد. قبل از این، سانتاندر و بعد فرانسه هم «اولین»های خودشان را داشتند. پرداختِ ایجنتی بانکبهبانک در اروپا جلو میرود.
- چتجیپیتی صفحهٔ «تاریخچهٔ امنیتی» گرفت. از ۲۵ سپتامبر میشود ورودها، خروجها و تغییراتِ ورودِ دومرحلهای را آنجا دید. اگر کسبوکارتان از چتجیپیتی استفاده میکند، یک دقیقه وقت بگذارید و نگاهی بیندازید.
- ایجنتهای برنامهنویسی حالا پولِ واقعیاند. بلومبرگ ۲۵ سپتامبر گزارش داد درآمدِ سالانهٔ کاگنیشن، سازندهٔ ایجنتِ برنامهنویسیِ دوین، به حدود یک میلیارد دلار رسیده؛ تقریباً دو برابرِ رقمِ ماهِ مه.
- رویدادِ توسعهدهندگانِ اوپنایآی دوشنبه ۲۹ سپتامبر است. زمانبندیاش درست بعد از این توقف کمی ناجور شده. هر چه واقعاً عرضه شود، گزارش میدهم.
- پاپ لئوی چهاردهم هوش مصنوعی را به پاریس برد. در سفرش به فرانسه هشدار داد که ممکن است «در بهشتی از ماشینها» انسانیتمان را گم کنیم و خواستارِ قاعدههای جهانی شد.
خلاصهاش: ایجنتها هر هفته قدرتِ بیشتری میگیرند و این هفته دیدیم وقتی قدرت از نردهها جلو بزند چه میشود. برای فروشنده، هوش مصنوعیِ درست آن نیست که بیشترین کار را بکند؛ آن است که کارِ شما را خوب انجام دهد، از خطِ خودش بیرون نزند و هر لحظه که خواستید، اجازه دهد خودتان وارد شوید. وردست را همینطور ساختیم: دستیارِ هوش مصنوعیای که در اینستاگرام، واتساپ، تلگرام و سایتتان از روی اطلاعاتِ واقعیِ محصولاتتان به مشتری جواب میدهد و هر جا لازم باشد گفتگو را به خودتان میسپارد.