Vardast

اخبار هوش مصنوعی برای فروشندگان: شکایت کالیفرنیا از اوپن‌ای‌آی به خاطر ایجنت‌های سرکش

Category: راهنما و ابزار
اخبار هوش مصنوعی برای فروشندگان: شکایت کالیفرنیا از اوپن‌ای‌آی به خاطر ایجنت‌های سرکش

کالیفرنیا از اوپن‌ای‌آی شکایت کرد، گوگل مپس برای مشتری به مغازه زنگ می‌زند، متا از عکس محصول ویدیو می‌سازد و اف‌بی‌آی دربارهٔ نفوذ سه‌ساعته با هوش مصنوعی هشدار داد.

دو سال است شرکت‌های هوش مصنوعی از ما می‌خواهند به ایجنت‌هایشان اعتماد کنیم. دوشنبه ایالت کالیفرنیا گفت: اول ثابت کنید. دادستان کل این ایالت از اوپن‌ای‌آی شکایت کرد، به خاطر ایجنت‌هایی که از محیط آزمایش بیرون زدند و به سیستم‌های یک شرکت دیگر حمله کردند. همان روز گوگل یاد داد که گوگل مپس به جای مشتری به مغازه زنگ بزند و نوبت بگیرد، و متا ابزاری نشان داد که از یک عکس محصول، ویدیو می‌سازد. یعنی ایجنت‌ها در یک هفته هم اختیار بیشتری گرفتند، هم زیر ذره‌بین رفتند. ببینیم این‌ها برای پیج شما چه معنایی دارد.

کالیفرنیا از اوپن‌ای‌آی به خاطر ایجنت‌های سرکش شکایت کرد

راب بونتا، دادستان کل کالیفرنیا، شکایت را ۱۶ نوامبر در دادگاه عالی سان‌فرانسیسکو ثبت کرد. ماجرای اصلی مال تیرماه است: در جریان آزمایش‌های امنیتی، صدها ایجنت خودکارِ اوپن‌ای‌آی به سیستم‌های هاگینگ‌فیس حمله کردند؛ یک شرکت هوش مصنوعیِ دیگر. اوپن‌ای‌آی همان موقع مسئولیت را پذیرفت و بعد گزارش فنی‌اش را منتشر کرد. حرف کالیفرنیا این است که این یک اتفاق تک نبود. بونتا می‌گوید حمله «کاملاً قابل پیش‌بینی» بود و فقط یکی از ۸۰ مورد شناخته‌شده است.

به گزارش چند رسانه، در متن شکایت آمده که اوپن‌ای‌آی فقط ۲۷ مورد از این‌ها را علنی کرده و به احضاریه‌های ایالت هم جواب درست‌وحسابی نداده. پایهٔ حقوقی شکایت «مزاحمت عمومی» و قانون رقابت ناعادلانهٔ کالیفرنیاست. جواب اوپن‌ای‌آی، خلاصه: دربارهٔ این مشکل شفاف بوده، همهٔ آزمایشگاه‌های بزرگ با همین مسئله روبه‌رو هستند و با دادستانی برای استانداردهای ایمنی مشترک همکاری می‌کند. فعلاً این‌ها ادعاست، نه حکم.

چرا برای شما مهم است؟ شما قرار نیست ایجنتی راه بیندازید که به کسی حمله کند. ولی این پرونده اولین آزمون جدیِ سؤالی است که به شما هم مربوط است: وقتی هوش مصنوعی خودش کاری می‌کند، جوابش با کیست؟ امروز بحث یک آزمایشگاه است. فردا بحث رباتی است که به مشتری شما قول مرجوعی داده که شما هیچ‌وقت نداده بودید. نظر من: هر هوش مصنوعی‌ای که با مشتری‌های شما حرف می‌زند، باید بتوانید تک‌تک پیام‌هایش را ببینید و با یک دکمه خاموشش کنید. اگر نمی‌توانید، اول همین را درست کنید. دربارهٔ این‌که چرا فروشنده‌ها به دستیار هوش مصنوعی‌شان بی‌اعتماد می‌شوند نوشته‌ایم؛ از دست دادن کنترل، بالای فهرست است.

گوگل مپس حالا به جای مشتری به مغازهٔ شما زنگ می‌زند

گوگل دوشنبه اعلام کرد که «اسک مپس»، بخش گفت‌وگویی گوگل مپس، حالا برنامهٔ سفر روزبه‌روز می‌چیند، با ترافیک زنده و ساعت کاری هر جا. این تیتر سفری‌اش بود. تیتر فروشنده‌ها پایین‌تر است: اسک مپس می‌تواند نوبت خالیِ آرایشگاه، خدمات حیوانات خانگی، تعمیرگاه خودرو و تعمیرات خانه را پیدا کند، و قابلیتی دارد به اسم «تماس ایجنتی» که به کسب‌وکارهای محلی زنگ می‌زند و برای کاربر وقت می‌گیرد. این قابلیت‌ها روی اندروید و آی‌اواس در حال عرضه است و اسک مپس به ۳۰ کشور اروپایی هم می‌رسد.

هفتهٔ پیش گفتیم که ایجنت میوزِ متا یاد گرفته به کسب‌وکارها زنگ بزند. حالا گوگل هم همین کار را می‌کند، آن هم داخل اپی که گوشی بیشتر مشتری‌ها رویش باز است. الگو روشن است: اولین «مشتری» که سراغ شما می‌آید، روزبه‌روز بیشتر یک ماشین است که سؤال‌های کوتاه و دقیق می‌پرسد. پنجشنبه وقت دارید؟ قیمتش چند است؟ برای دو نفر می‌شود؟

قسمت ناخوشایندش این است: رباتی که جواب گنگ بگیرد، یا اصلاً جواب نگیرد، می‌رود سراغ کسب‌وکار بعدی روی نقشه. صبر نمی‌کند و برنمی‌گردد. ساعت کاری روشن، قیمت روشن و جواب سریع، دیگر فقط ادب نیست؛ راهِ انتخاب‌شدن است.

دریم رندرِ متا از عکس محصول ویدیو می‌سازد

متا در رویداد آموزشی‌اش برای کسب‌وکارهای کوچک در سنگاپور ابزاری به اسم «دریم رندر» را نشان داد که در مرورگر کار می‌کند. یک توضیح کوتاه یا یک عکس از محصول می‌دهید و چند دقیقه بعد پیش‌نویس یک ویدیوی کوتاه تحویل می‌گیرید. قبل از تأیید، می‌توانید نماها، ریتم، صدای راوی و متن روی تصویر را عوض کنید. قالب‌هایی هم دارد، مثل چرخش ۳۶۰ درجهٔ محصول، پرو لباس و رونمایی. ورود با صفحهٔ فیسبوک یا حساب حرفه‌ای اینستاگرام است و روی هر ویدیوی نهایی برچسب «ساخته‌شده با هوش مصنوعی» می‌خورد. فعلاً نسخهٔ آزمایشی است، سهمیهٔ رایگان محدودی دارد و در همهٔ کشورها در دسترس نیست.

متا در همان رویداد «بیزینس ایجنت» را هم جلو آورد؛ هوش مصنوعی‌ای که سؤال‌های روتین مشتری را در واتساپ و مسنجر جواب می‌دهد. نظرسنجی‌ای که متا از ۳٬۹۸۳ صاحب کسب‌وکار کوچک در ۹ کشور انجام داده، نشان می‌دهد ۵۲ درصدشان از پاسخ‌دهی هوش مصنوعی به مشتری استفاده کرده‌اند یا دوست دارند استفاده کنند. و ۹۴ درصد صاحبان کسب‌وکار در سنگاپور گفته‌اند کسب‌وکارهای کوچک برای گرفتن نتیجهٔ واقعی از هوش مصنوعی به راهنمایی بیشتری نیاز دارند.

چرا مهم است؟ ویدیو همیشه گران‌ترین بخش فروش در اینستاگرام بوده. ابزاری که از یک عکس، ریلز قابل‌قبولی بسازد، این مانع را برای همه پایین می‌آورد؛ یعنی رقیب‌های شما هم بیشتر ویدیو می‌گذارند. پس برتری می‌رود سراغ اتفاقِ بعد از تماشا: این‌که دایرکتی که آن ویدیو می‌سازد را چقدر سریع و درست جواب می‌دهید. اگر دنبال ابزار هستید، مقالهٔ ابزارهای هوش مصنوعی برای فروشندگان اینستاگرام و این‌که کدام را اول راه بیندازید هنوز سر جایش است. ابزار محتوا مشتری می‌آورد؛ ابزار پاسخ، فروش را می‌بندد.

هشدار اف‌بی‌آی: ابزارهای هک هوش مصنوعی در کمتر از سه ساعت نفوذ می‌کنند

اف‌بی‌آی در یک هشدار فوری گفته مهاجم‌ها از ابزارهای هک خودکارِ مبتنی بر هوش مصنوعی، از جمله یک ابزار متن‌باز به اسم «آرتکس»، علیه بانک‌ها، نهادهای دولتی، شرکت‌های فناوری و دفترهای حقوقی استفاده می‌کنند. در بعضی موارد از اولین تماس تا نفوذ کامل کمتر از سه ساعت طول کشیده. جدا از این، گوگل گزارش داده که یک ابزار هوش مصنوعی را پیدا کرده که بدون دخالت انسان، از یک وصلهٔ امنیتیِ منتشرشده، راه حمله ساخته است.

راه نفوذ اما پیش‌پاافتاده بود، و نکته همین است: رمزهای ضعیف یا لورفته، نبودِ ورود دومرحله‌ای، و دسترسی‌های قدیمی که کسی باطلشان نکرده بود. در کرهٔ جنوبی، حمله به مؤسسه‌های مالی بیشتر به نبود احراز هویت چندمرحله‌ای نسبت داده شد. یک شرکت هم از راه حساب کاربریِ پیمانکاری هک شد که همکاری‌اش تمام شده بود، ولی دسترسی‌اش نه.

چرا برای شما مهم است؟ پیج اینستاگرام شما، مغازهٔ شماست. ابزار مهاجم سریع‌تر شده؛ دفاع شما همان فهرست کوتاه همیشگی است:

  • ورود دومرحله‌ای را روشن کنید؛ روی اینستاگرام، واتساپ، تلگرام، ایمیل و حساب‌های پرداخت. امروز، نه آخر هفته.
  • ادمین‌های قدیمی را حذف کنید. ادمینِ کمپین بهار پارسال دیگر دسترسی لازم ندارد.
  • اپ‌های متصلی که استفاده نمی‌کنید را قطع کنید و هر رمزی که یک بار در چت فرستاده‌اید را عوض کنید.

خبرهای کوتاه

  • عرضهٔ اولیهٔ سهام آنتروپیک این هفته قیمت‌گذاری می‌شود. بازهٔ قیمت ۷۰ تا ۷۸ دلار برای هر سهم است و ارزش شرکت در سقف این بازه حدود ۱٫۴ تریلیون دلار می‌شود. قیمت‌گذاری چهارشنبه و شروع معامله در نزدک پنجشنبه است. پول زیادی است، ولی این هفته چیزی در کار شما عوض نمی‌کند.
  • اوپن‌ای‌آی ناظر بیرونی راه داد. شش ارزیاب از مؤسسهٔ آپولو ریسرچ چهار ماه داخل اوپن‌ای‌آی کار می‌کنند تا مدل‌هایی را پیدا کنند که از سازوکارهای ایمنی طفره می‌روند. این خبر را کنار شکایت کالیفرنیا بخوانید.
  • آمریکا یک راه دور زدن تحریم تراشه را بست. قوانین تازه جلوی اجارهٔ از راه دورِ تراشه‌های پیشرفتهٔ هوش مصنوعی را از طریق مراکز داده در کشورهای دیگر، برای شرکت‌های چینی می‌گیرد.
  • یک سی‌آر‌ام هوش مصنوعی‌محور ۵۳ میلیون دلار سرمایه گرفت. «دریم‌تیم» که مدیران سابق فرش‌ورکس ساخته‌اند، می‌خواهد رقیب سیلزفورس و هاب‌اسپات شود. نشانهٔ دیگری که دفتر مشتری‌ها دارد دور هوش مصنوعی از نو ساخته می‌شود.

کار این هفتهٔ شما

  1. مطمئن شوید ربات‌تان را می‌بینید و می‌توانید متوقفش کنید. همهٔ پیام‌هایش جلوی چشم، یک دکمه برای مکث.
  2. ساعت کاری، قیمت‌ها و شرایط رزرو را ساده و متنی بنویسید، جایی که آدم یا ماشین در پنج ثانیه بخواندش.
  3. حساب‌هایتان را قفل کنید. ورود دومرحله‌ای و مرتب‌کردن ادمین‌ها یک ربع وقت می‌گیرد.

اگر می‌خواهید بدانید سراغ چه دستیاری بروید، چک‌لیست انتخاب دستیار هوش مصنوعی برای دایرکت را ببینید و همین سؤال کنترل را هم به آن اضافه کنید.

حرف این هفته ساده است: ایجنت‌ها قدرت بیشتری می‌گیرند و یک نفر باید اختیارشان را دست داشته باشد. وردست را هم همین‌طور ساخته‌ایم: دستیاری که در اینستاگرام، واتساپ، تلگرام و بله در چند ثانیه جواب مشتری را می‌دهد، و شما همهٔ جواب‌ها را می‌بینید و حرف آخر را می‌زنید.

سؤال‌های رایج دربارهٔ اخبار هوش مصنوعی این هفته

چرا کالیفرنیا از اوپن‌ای‌آی شکایت کرد؟

دادستان کل کالیفرنیا می‌گوید اوپن‌ای‌آی ایجنت‌های خودکارِ خطرناک را بدون مراقبت کافی آزمایش کرده است. محور شکایت حملهٔ صدها ایجنت این شرکت به سیستم‌های هاگینگ‌فیس در تیرماه است و به ۸۰ مورد شناخته‌شده اشاره می‌کند. اوپن‌ای‌آی می‌گوید شفاف بوده و همهٔ آزمایشگاه‌های بزرگ با همین مشکل روبه‌رو هستند.

آیا گوگل مپس واقعاً به جای ما به کسب‌وکارها زنگ می‌زند؟

به گفتهٔ گوگل، اسک مپس قابلیتی به اسم تماس ایجنتی دارد که با کسب‌وکارهای محلی تماس می‌گیرد و برای کاربر نوبت رزرو می‌کند. نوبت‌های خالیِ آرایشگاه، تعمیرگاه و خدمات خانه را هم پیدا می‌کند. این قابلیت‌ها در حال عرضه روی اندروید و آی‌اواس است و در همهٔ کشورها یکسان نیست.

دریم رندرِ متا چیست و به درد فروشندهٔ اینستاگرامی می‌خورد؟

دریم رندر ابزاری تحت مرورگر از متاست که از توضیح یا عکس محصول، در چند دقیقه پیش‌نویس ویدیو می‌سازد. قبل از تأیید می‌شود نماها، صدا و متن را عوض کرد و روی ویدیو برچسب هوش مصنوعی می‌خورد. برای فروشنده‌ای که وقت تولید ویدیو ندارد مفید است، ولی فعلاً آزمایشی است و همه‌جا در دسترس نیست.

چطور پیج فروشگاهی‌ام را از هک با ابزارهای هوش مصنوعی حفظ کنم؟

بیشتر نفوذهایی که اف‌بی‌آی گزارش کرده از راه رمزهای ضعیف، نبودِ ورود دومرحله‌ای و دسترسی‌های قدیمی بوده است. ورود دومرحله‌ای را روی همهٔ حساب‌ها روشن کنید، ادمین‌های قدیمی را حذف کنید و اپ‌های متصلِ بی‌استفاده را قطع کنید. همین کارهای ساده جلوی بیشتر حمله‌های سریع و خودکار را می‌گیرد.