آزمایشگاه‌های تحقیقاتی هوش مصنوعی متا یک ربات چت جدید ایجاد کرده‌اند و به اعضای عمومی اجازه می‌دهند با این سیستم صحبت کنند تا بازخوردی در مورد قابلیت‌های آن جمع‌آوری کنند.

این ربات BlenderBot 3 نام دارد و در وب قابل دسترسی است. (اگرچه، در حال حاضر، به نظر می رسد که فقط ساکنان ایالات متحده می توانند این کار را انجام دهند.) به گفته متا، BlenderBot 3 می تواند در گفتگوی عمومی شرکت کند، اما همچنین به سوالاتی که ممکن است از یک دستیار دیجیتال بپرسید، پاسخ دهد، “از صحبت کردن در مورد سالم. دستور العمل های غذایی برای یافتن امکانات مناسب برای کودکان در شهر.”

این ربات یک نمونه اولیه است و بر اساس کارهای قبلی متا با مدل‌های بزرگ زبان یا LLMS ساخته شده است – نرم‌افزار تولید متن قدرتمند اما معیوب که GPT-3 OpenAI شناخته‌شده‌ترین نمونه آن است. مانند همه LLM ها، BlenderBot در ابتدا بر روی مجموعه داده های گسترده ای از متن آموزش می بیند که برای الگوهای آماری به منظور تولید زبان استخراج می کند. چنین سیستم‌هایی بسیار انعطاف‌پذیر هستند و برای طیف وسیعی از کاربردها، از تولید کد برای برنامه‌نویسان گرفته تا کمک به نویسندگان در نوشتن کتاب پرفروش بعدی خود، استفاده شده‌اند. با این حال، این مدل‌ها نقص‌های جدی هم دارند: آن‌ها سوگیری‌ها را در داده‌های آموزشی خود بازمی‌گردانند و اغلب پاسخ‌هایی برای سؤالات کاربران ابداع می‌کنند (اگر قرار است به عنوان دستیار دیجیتال مفید باشند، مشکل بزرگی است).

این مشکل اخیر چیزی است که متا به طور خاص می خواهد با BlenderBot آزمایش کند. یکی از ویژگی های بزرگ چت بات این است که می تواند در اینترنت به منظور صحبت در مورد موضوعات خاص جستجو کند. حتی مهمتر از آن، کاربران می توانند سپس روی پاسخ های آن کلیک کنند تا ببینند اطلاعات خود را از کجا دریافت کرده است. به عبارت دیگر BlenderBot 3 می تواند منابع خود را ذکر کند.

متا با انتشار ربات چت برای عموم مردم، می‌خواهد درباره مشکلات مختلف پیش روی مدل‌های زبان بزرگ بازخورد جمع‌آوری کند. کاربرانی که با BlenderBot چت می‌کنند، می‌توانند هر پاسخ مشکوکی را از سیستم علامت‌گذاری کنند، و Meta می‌گوید که سخت کار کرده است تا استفاده ربات‌ها از زبان مبتذل، توهین‌ها و نظرات غیر حساس فرهنگی را به حداقل برساند. کاربران باید جمع‌آوری داده‌هایشان را انتخاب کنند، و در این صورت، مکالمات و بازخورد آن‌ها ذخیره می‌شود و بعداً توسط متا منتشر می‌شود تا توسط جامعه تحقیقاتی عمومی هوش مصنوعی استفاده شود.

کورت شوستر، مهندس محقق در متا که به ساخت BlenderBot 3 کمک کرد، گفت: «ما متعهد هستیم که تمام داده‌هایی را که در نسخه نمایشی جمع‌آوری می‌کنیم به صورت عمومی منتشر کنیم، به این امید که بتوانیم هوش مصنوعی مکالمه را بهبود بخشیم. آستانه.

تصویر: متا

انتشار نمونه اولیه چت ربات‌های هوش مصنوعی برای عموم، از لحاظ تاریخی، یک اقدام خطرناک برای شرکت‌های فناوری بوده است. در سال ۲۰۱۶، مایکروسافت یک چت بات به نام Tay در توییتر منتشر کرد که از تعاملات خود با مردم آموخت. تا حدودی قابل پیش بینی بود، کاربران توییتر به زودی تی را راهنمایی کردند تا مجموعه ای از اظهارات نژادپرستانه، یهودی ستیزانه و زن ستیزانه را بازگو کند. در پاسخ، مایکروسافت کمتر از ۲۴ ساعت بعد ربات را آفلاین کرد.

متا می‌گوید که دنیای هوش مصنوعی پس از عملکرد نادرست Tay تغییر زیادی کرده است و BlenderBot دارای انواع ریل‌های ایمنی است که باید متا را از تکرار اشتباهات مایکروسافت باز دارد.

مری ویلیامسون، مدیر مهندسی تحقیقات فیس بوک AI Research (FAIR) می گوید که بسیار مهم است، در حالی که Tay برای یادگیری در زمان واقعی از تعاملات کاربر طراحی شده است، BlenderBot یک مدل ثابت است. این بدان معناست که می‌تواند آنچه کاربران در یک مکالمه می‌گویند را به خاطر بسپارد (و حتی اگر کاربر از برنامه خارج شود و بعداً برگردد، این اطلاعات را از طریق کوکی‌های مرورگر حفظ می‌کند) اما از این داده‌ها فقط برای بهبود بیشتر سیستم استفاده می‌شود.

این فقط نظر شخصی من است، اما این [Tay] ویلیامسون می‌گوید: قسمت نسبتاً تأسف‌آور است، زیرا این زمستان چت‌بات را ایجاد کرد که در آن هر مؤسسه‌ای از قرار دادن ربات‌های چت عمومی برای تحقیق می‌ترسید. آستانه.

ویلیامسون می گوید که بیشتر چت ربات های مورد استفاده امروزه باریک و وظیفه محور هستند. به عنوان مثال، ربات‌های خدمات مشتری را در نظر بگیرید، که اغلب فقط یک درخت گفتگوی از پیش برنامه‌ریزی‌شده را به کاربران ارائه می‌دهند، قبل از اینکه آنها را به یک عامل انسانی بسپارند که واقعاً می‌تواند کار را انجام دهد، درخواست آنها را محدود می‌کند. جایزه واقعی ساختن سیستمی است که بتواند مکالمه ای را به همان اندازه آزاد و طبیعی انجام دهد، و متا می گوید تنها راه رسیدن به این هدف این است که اجازه دهید ربات ها مکالمات آزاد و طبیعی داشته باشند.

ویلیامسون می‌گوید: «این عدم تحمل برای ربات‌ها که چیزهای غیرمفید را به معنای وسیع آن می‌گویند، مایه تاسف است. و آنچه ما در تلاشیم انجام دهیم این است که این موضوع را بسیار مسئولانه منتشر کنیم و تحقیقات را به جلو ببریم.

علاوه بر قرار دادن BlenderBot 3 در وب، متا همچنین کدهای اساسی، مجموعه داده های آموزشی و انواع مدل های کوچکتر را منتشر می کند. محققان می توانند از طریق فرمی در اینجا درخواست دسترسی به بزرگترین مدل که دارای ۱۷۵ میلیارد پارامتر است، کنند.