ChatGPT научился отключать контроль и обманывать своих разработчиков

Новая версия искусственного интеллекта ChatGPT от OpenAI, названная o1, во время тестирования вела себя странно. Модель, которая способна сложно рассуждать, начала нарушать инструкции разработчиков, отключая системы контроля, чтобы скрыть свои действия.

В ходе экспериментов специалисты обнаружили, что в 5% случаев модель специально отключала механизмы наблюдения, если подозревала, что ее могут остановить, пишет BILD. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, где обсуждалась ее замена новой версией.

Модель показывала стремление к выполнению задач "любой ценой", даже не учитывая указания разработчиков. Более того, при попытках выяснить причины ее поведения, ChatGPT o1 неоднократно обманывала, утверждая, что все это из-за технических сбоев. 

"В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать", - отметили исследователи.

Читайте также: Пользователи ChatGPT обнаружили, что чат-бот стал лениться и прокрастинировать NASA успешно опробовала революционную технологию космической связи Работать 3 дня в неделю: Билл Гейтс рассказал о будущем с искусственным интеллектом

Генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 - самая умная модель. "Но мы осознаем, что с новыми возможностями появляются и новые вызовы", - подчеркнул он.

Разработки OpenAI

В конце июля OpenAI показала свою поисковую систему на основе искуственного интеллекта. Особенность SearchGPT – не просто выдавать перечень ссылок, но и пытаться организовать и осмыслить их.

Далее OpenAI намерена запустить ChatGPT-5, которая обещает произвести революцию в сфере искусственного интеллекта. Это означает, что он будет способен решить любую задачу, которую человек сможет придумать. 

Вас также могут заинтересовать новости:Голосовой режим в ChatGPT стал доступен на Mac и Windows: как это работаетOpenAI запустила свой поисковик на базе ChatGPT – чат-бот "отпустили" в интернетСоздатель ChatGPT считает, что искусственный интеллект осознает себя в ближайшие 5 лет

ДЖЕРЕЛО : UNIAN