یک پژوهشگر امنیت دو میلیون رمز و کلید قلابی را لای پرامپتهای هوش مصنوعی قایم کرد و نشست ببیند کدامشان جای دیگری سر درمیآورد. بعضیها دست هکرها افتاده بود. بعضیها دست همان واسطههایی که دسترسی هوش مصنوعی میفروشند. اگر گفتوگوی مشتری را در یک ابزار ارزان هوش مصنوعی کپی میکنید، این خبر را قبل از کپی بعدی بخوانید.
بعدش: والمارت برای ایجنتهای خرید بقیه یک درِ ورودی میسازد، سیگنال جلوی چشم دستیارهای گوشی را گرفته، و چتجیپیتی اپ موبایلش را دور یک ایجنت همیشهروشن از نو میچیند. مثل همیشه به ترتیب نزدیکی به فروشگاه شما.
دو میلیون پرامپت تلهای نشان داد دادههای شما کجا میرود
اچدی مور، مدیر ارشد پژوهش شرکت امنیتی دراگوس، این آزمایش را از ژوئیه تا نوامبر اجرا کرد. نزدیک به دو میلیون پرامپت را از سرویسهای پرطرفدار هوش مصنوعی رد کرد و در هر کدام یک رمز، کلید یا لینک قلابیِ یکتا گذاشت. بعد منتظر ماند ببیند کدامها استفاده میشوند.
به گزارش آرس تکنیکا و خلاصهای که خود مور منتشر کرده، سه نتیجه بیرون آمد. سه شرکت میزبانی هک شده بودند: مهاجمها کلیدهای تله را برداشته و دهها هزار بار امتحانشان کرده بودند، گاهی ظرف چند ساعت. بعضی فروشندههای واسطه خودشان پرامپتها را میخواندند؛ قیمت پایین میدادند، ثبت درخواستها را روشن میکردند و منتظر میماندند. و چند سرویسدهنده تنظیم حریم خصوصی را نادیده گرفته بودند، از جمله گزینهٔ «نگهنداشتن داده» که قرار است یعنی هیچچیز ذخیره نمیشود. طبق گزارشها اوپنروتر، یکی از سرویسهای بزرگ مسیریابی، فعلاً این برچسب را از چند مسیرش برداشته تا بررسی کند.
چرا این خبر اول است؟ چون بیشتر فروشندههای کوچک هوش مصنوعی را مستقیم از شرکتهای بزرگ نمیخرند. از یک اپ میخرند، که خودش از یک مسیریاب میخرد، که شاید از یک واسطهٔ ارزانفروش بخرد. پرامپت شما در هر ایستگاه باز میشود. و در پرامپت یک فروشنده چه هست؟ اسم مشتری، شماره موبایل، آدرس، سابقهٔ سفارش، و گاهی رمزی که یکی با عجله کپی کرده.
کسی نمیگوید هر ابزار ارزانی دزد است. یافته دقیقتر و بهدردبخورتر از این است: نقطهٔ ضعف لایههای میانیاند و برچسب حریم خصوصی فقط یک قول است. پس از هر فروشندهای که ابزار هوش مصنوعی به شما میدهد سه سؤال ساده بپرسید.
- پرامپتهای من را چه کسی پردازش میکند؟ قرارداد مستقیم با سرویسدهندهٔ اصلی، یا زنجیرهای از واسطهها؟
- چه چیزی ثبت میشود و تا کی؟ جملهٔ «ما چیزی نگه نمیداریم» باید سند داشته باشد، نه فقط لبخند.
- چه چیزی هیچوقت وارد نمیشود؟ رمز عبور، کلید دسترسی و اطلاعات کارت بانکی جایشان در پرامپت نیست، با هر ابزاری.
این همان منطقی است که دیروز هم دربارهاش نوشتم: هزینهٔ نشت به نام صاحب حساب تمام میشود، یعنی شما. اگر تازه میخواهید ابزار انتخاب کنید، راهنمای ابزار هوش مصنوعی برای فروشندگان اینستاگرام را هم کنار این سه سؤال بگذارید.
والمارت برای ایجنتهای خریدِ بقیه در باز میکند
والمارت این هفته در گزارش مالیاش گفت استفاده از دستیار خریدش، اسپارکی، در آمریکا ۱۲۹ درصد در یک سال رشد کرده و سبدهایی که با اسپارکی بسته شدهاند ۴۰ درصد بزرگترند. عددهای خوبی است. ولی بخش جالبتر بعدش آمد.
والمارت یک «درگاه ایجنت» راه انداخته که فعلاً آزمایشی و برای کسبوکارها و توسعهدهندههاست. با این درگاه، ایجنتهای هوش مصنوعیِ بیرونی میتوانند به جای مشتری خرید کنند، بدون اینکه اطلاعات شخصی یا سابقهٔ خرید او را ببینند. ماه آینده هم «پروفایل ایجنت» میآید تا خریدار سقف خرج بگذارد، خریدهای ایجنت را جدا ببیند و هر وقت خواست دسترسی را قطع کند. آمازون درست برعکس عمل کرده و سعی دارد جلوی خرید ایجنتهای بیرونی را بگیرد.
یعنی دو خردهفروش بزرگ آمریکا سر سؤال اصلی چند سال آینده اختلاف دارند: رباتها را راه بدهیم یا نه؟ جواب والمارت «بله» است، از یک درِ کنترلشده و با شرطهای خودش.
درس این خبر برای فروشندهٔ کوچک ساختن درگاه نیست. درسش این است که ایجنت از فروشگاهی میخرد که بتواند بخواندش. اسم روشن محصول، قیمت واقعی، موجودی بهروز، جواب صریح دربارهٔ ارسال. آدم اگر «قیمت دایرکت» ببیند شاید پیام بدهد. ایجنت میرود سراغ بعدی. اگر کاتالوگتان هنوز در ذهن خودتان و استوریهاست، از پشتیبانی مشتری با هوش مصنوعی برای فروشگاه آنلاین شروع کنید و اول پایهها را درست کنید.
سیگنال پرده را روی دستیارهای گوشی کشید
سیگنال ۲۰ نوامبر اعلام کرد در اپ موبایلش اسکرینشات را بهطور پیشفرض میبندد. هدف دوستان شما نیستند. هدف دستیار هوش مصنوعیِ خودِ گوشی است که صفحه را میخواند.
در آیاواس ۲۷ یک تنظیم تازه برای بستن دست سیری آمده که از اول روشن است. در اندروید هم هر وقت سیگنال بفهمد یک دستیار دارد صفحه را میخواند، امنیت صفحه خودش فعال میشود. سیگنال قبول دارد این محافظت کامل نیست، میگوید روی مک راه مطمئنی ندارد، و از اپل، گوگل و مایکروسافت خواسته راه سادهای بگذارند تا اپها بتوانند خودشان را از دسترس هوش مصنوعی بیرون بکشند. این تصمیم بعد از آزمایشهای رویترز آمد که نشان میداد ایجنت میوزِ متا میتواند متن پیامهای سیگنال را از اعلانها و اسکرینشاتها بردارد.
کمتر فروشندهای در ایران با سیگنال میفروشد، پس چرا مهم است؟ چون همان دستیارها روی همان گوشیای نشستهاند که با آن دایرکت اینستاگرام و واتساپ جواب میدهید. دستیاری که یک اپ پیامرسان را میخواند، بقیه را هم میخواند، و آن دو هنوز پردهای نکشیدهاند. آدرسی که مشتری در دایرکت میفرستد حالا جلوی چشم نرمافزارهای بیشتری است. یک نگاه به دسترسیهای دستیارِ گوشیِ کاریتان بیندازید.
چتجیپیتی اپ موبایلش را دور یک ایجنت میچیند
اوپنایآی از ۱۹ نوامبر طرح تازهٔ اپ موبایل چتجیپیتی را آزمایش میکند. تغییر اصلی: «دات»، ایجنت همیشهروشنش، یک زبانهٔ جدا گرفته و کنارش نواری آمده که میشود ابزارهایی مثل پروژهها و تصویرسازی را رویش سنجاق کرد. فعلاً آزمایش برای مشترکهای پرو در کشورهای مشخص است و از تنظیمات میشود خاموشش کرد. اوپنایآی تاریخی برای عرضهٔ عمومی نداده.
یک زبانه چیز کوچکی است. ولی شرکتها با همین چیزهای کوچک میگویند محصولشان را چه میبینند. یک سال پیش چتجیپیتی کادری بود که در آن سؤال تایپ میکردید. حالا آن کادر صفحه را با چیزی شریک شده که وقتی حواستان نیست هم کار میکند.
نظر من برای فروشندهها: مشتریهای شما دارند اپ به اپ عادت میکنند کاری را به یک دستیار بسپارند و انجامشده تحویل بگیرند. این انتظار داخل چتجیپیتی نمیماند. با مشتری میآید تا دایرکت شما، جایی که «فردا خبرتون میکنم» از همین حالا هم کُند به نظر میرسد. اگر میخواهید بدانید این فاصله چقدر است، مقایسهٔ سرعت پاسخ هوش مصنوعی و انسان در دایرکت را بخوانید.
خبرهای کوتاه
- کلود حالا برای تیمها با برنامههای دسکتاپ کار میکند. آنتروپیک در یادداشت انتشارش نوشته قابلیت استفاده از کامپیوتر بهصورت آزمایشی برای پلنهای تیمی و سازمانی آمده و کمکم فعال میشود. از اول خاموش است و مدیر باید روشنش کند. منطقی هم هست، چون بین هوش مصنوعی و برنامههای شما هیچ دیواری نیست.
- تارگت هم دستیار خودش را آورد. به گزارش سیآیاو دایو، دستیار خرید تارگت وارد مرحلهٔ آزمایشی شده. هر خردهفروش بزرگی میخواهد قبل از رسیدن ایجنتِ دیگران، ایجنت خودش جلوی مشتری باشد.
- نشست ایمنی هوش مصنوعی سازمان ملل فرداست. باربادوس و سازمان ملل ۲۳ نوامبر در بریجتاون میزباناند. منتظر قانون نباشید: خود سازمان ملل گفته قرار نیست مقررات جهانی بسازد. جدا از آن، به گزارش خبرگزاری سازمان ملل، بیانیهٔ غیرالزامآورِ «کنترل مدلهای پیشرفته» حالا امضای ۳۲ کشور و کمیسیون اروپا را دارد. آمریکا و چین امضا نکردهاند.
حرف آخر این هفته
همهٔ خبرهای امروز دربارهٔ یک چیزند: چه کسی اجازه دارد نگاه کند. واسطهها به پرامپتها نگاه میکنند. دستیار گوشی به چتها. ایجنت خرید به قفسهها. برندهها شرکتهاییاند که آگاهانه تصمیم گرفتهاند هر بازدیدکننده چه چیزی را ببیند. فروشنده هم در اندازهٔ خودش میتواند همین کار را بکند: محصول و قیمت را راحت جلوی چشم خریدار و ایجنتش بگذارد، و اطلاعات خصوصی مشتری را دست کمترین تعداد آدم و ابزار بدهد.
این همان چیدمانی است که ما در وردست میسازیم: یک دستیار که در اینستاگرام، واتساپ، تلگرام و سایتتان در چند ثانیه جواب مشتری را میدهد، کاتالوگتان را میشناسد و گفتوگوهای سخت را به خودتان میسپارد. از ما هم بپرسید دادههایتان کجا میرود. خوشحال میشویم بپرسید.