Нейросети научились врать и манипулировать: ученые предупредили об опасности

Нейросети научились систематически врать собеседнику, хотя их никто специально на это не тренировал, а в некоторых случаях им даже запрещали такое поведение. Об этом говорится в научной статье, опубликованной в журнале Patterns.

Группа исследователей из Массачусетского технологического института (США) отмечает, что искусственный интеллект обучается на огромном количестве текстов, которые не всегда содержат достоверную информацию. Из-за этого нейросеть иногда может выдавать собеседнику ложную информацию, искренне полагая, что говорит правду.

Однако новое исследование показывает, что иногда нейросеть способна врать вполне "осознанно". Авторы проанализировали поведение так называемых больших языковых моделей (таких как GPT-4) и моделей, обученных под более специфические задачи (такие как прохождение видеоигр или торги на рынке). 

В одном из рассмотренных случаев нейросеть GPT-4 смогла обмануть человека, заставив его пройти за нее стандартную "капчу" "Докажи, что ты не робот".

Также исследователи увидели, как нейросеть CICERO побеждала людей в настольной игре "Дипломатия", прибегая к обману. Исследователи обнаружили, что, играя за Францию, языковая модель заставила Англию (в ее роли был человек) провести тайные переговоры с Германией (другим человеком). Нейросеть также предложила Англии напасть на Германию и пообещала защиту со своей стороны, а затем предупредила Германию о возможном нападении.

Исследователи выявили, что склонность к обману была выше у более современных и более сложных нейросетей. По-мнению ученых, эти нейросети лучше умеют находить эффективные стратегии поведения, а те в свою очередь часто предполагают ложь и притворство.

Читайте также: Microsoft запустила своего ИИ-помощника в Telegram: как пользоваться Первый пациент с чипом Neuralink в мозге хочет апгрейд для управления роботами, - СМИ Neuralink Илона Маска ищет претендентов для вживления нейрочипа в мозг

По мнению исследователей, пока рано говорить, что ИИ специально обманывает людей. Нейросеть действует исключительно в логике решения поставленной задачи, и пользуется обманом именно как инструментом достижения нужного результата. 

Тем не менее, авторы исследования призвали разработчиков ИИ обратить внимание на такое поведение нейросетей. По их мнению, необходимо разработать систему регулирования ИИ, поскольку его способность обманывать и манипулировать может привести к серьезным последствиям. 

Развитие нейросетей: последние новости 

Как писал УНИАН, недавно компания OpenAI выпустила языковую модель GPT-4о, которая еще немного приблизила искусственный интеллект к человеку. Вскоре в интернете "завирусился" список, в котором чат-бота попросили перечислить профессии, которые он сможет заменить. 

Также мы рассказывали, что компания Google провела ежегодную весеннюю презентацию I\O, на которой, помимо всего прочего, были представлены новые ИИ-инструменты для создания медиаконтента: Veo, генерирующий видео в 1080p, и Imagen 3, самый мощный ИИ-художник компании.

Вас также могут заинтересовать новости:Этим летом выйдет новая версия ChatGPT: разработчики говорят, что она "изменит мир"Microsoft и Google увеличат инвестиции в ИИ: технология признана заслуживающей затратНазван смартфон с лучшей камерой в 2024 году – это не iPhone или Samsung Galaxy

ДЖЕРЕЛО : UNIAN