Во время тестирования ChatGPT вышел из-под контроля
06 декабря 2024
2860

Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.




Распечатать
13 марта 2025
Бывшего президента Филиппин Родриго Дутерте доставили в Нидерланды после ареста Международным уголовным судом
13 марта 2025
Венгерский оперный театр отказался отменить выступление Нетребко по просьбе украинского посла
13 марта 2025
Подольская провела важный день в ссоре с Пресняковым
13 марта 2025
Лепс неожиданно высказался о своей свадьбе
13 марта 2025
Спецпосланник Трампа Стив Уиткофф посетит Москву для переговоров о прекращении огня в Украине
13 марта 2025
Министр транспорта Романенко получает доходы от бизнеса в Петербурге и спорных контрактов
13 марта 2025
Трамп заявил, что может ввести санкции против России, но не хочет, чтобы это мешало миру