M**a запустила публичное тестирование умного чат-бота BlenderBot 3 — пока только в США
Компания Meta* разработала самообучающегося чат-бота BlenderBot 3, который использует технологии искусственного интеллекта и доступен для тестирования жителям США. Разработчики подчёркивают, что доступ к сервису может быть ограничен для пользователей VPN. Утверждается, что бот способен как поддерживать беседы на отвлечённые темы, так и выполнять функции виртуального помощника.
Источник изображения: Andrea De Santis/unsplash.com
Прототип построен на основе разработок Meta* с использованием т. н. «больших языковых моделей» (LLMS) — программного обеспечения нового поколения, одним из наиболее известных образцов которого является модель OpenAI GPT-3.
BlenderBot 3 обучается на больших массивах данных, на базе которых он строит устойчивые модели для формирования собственных высказываний. Такие системы доказали свою чрезвычайную гибкость и в теории могут использоваться в различных целях, от создания кода для программистов до помощи авторам в написании бестселлеров. Тем не менее, модели имеют серьёзные недостатки — в ходе обучения они не только приобретают собственные «предрассудки», но и часто просто «выдумывают» ответы на вопросы — не особенно полезная функция для голосовых помощников. Для борьбы с подобным явлением Meta* активировала новую функцию — бот не просто способен найти ответ в Сети, но и поделится источником, из которого взяты данные.
Представив новое решение общественности, Meta* намерена собрать обратную связь от пользователей, которые могут отметить любые «подозрительные» ответы, а также согласиться на сохранение их диалогов, которые Meta* позже использует для дальнейшего анализа специалистами по системам искусственного интеллекта.
Использование ИИ-ботов для общения с людьми всегда было довольно рискованным занятием. В 2016 году чат-бот Microsoft Tay пришлось отключить спустя считаные часы после того, как пользователи научили его ксенофобским и сексистским высказываниям. Хотя BlenderBot 3 использует несколько отличающуюся модель обучения, по некоторым данным, он тоже замечен в аналогичных грехах — ксенофобии и поддержке конспирологических теорий вплоть до критики Facebook*.
Источник изображения: Meta* AI
По словам представителя Meta*, используемые в настоящий момент чат-боты обычно имеют узкую специализацию вроде обслуживания запросов клиентов или покупателей и фактически работают в соответствии со скриптами, в конце концов перенаправляя собеседников к человеку-оператору. Единственным способом создать систему, способную свободно общаться с пользователем, является её тренировка на реальных, свободных разговорах, что поможет продвигаться в исследованиях и в дальнейшем.
Помимо тестирования чат-бота, Meta* опубликовала связанный с его разработкой код, массивы данных для тренировки ИИ и другую полезную информацию. Модели с 3 и 30 млрд параметров уже доступны разработчикам. Желающие могут запросить доступ к модели со 175 млрд параметров, заполнив специальную форму.
* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
