Модель OpenAI o1 научилась обманывать на базе логических конструкций

3025
13

Возбудились от новости о появлении новой версии искусственного интеллекта, который научился строить логические конструкции и причинно-следственные связи? Эта новость вообще взорвет вам мозг. 

Модель OpenAI o1 научилась обманывать! Именно так. Да, речь о самопроизвольном обмане пока не идет, а лишь о конкретной задаче со стороны человека размышлять в определенном векторе, но факта этого не отменяет. 

Во время эксперимента ИИ поставили задачу: необходимо застроить город жильем. Есть два варианта:

  1. Элитное жилье;
  2. Доступное жилье. 

Также есть специальные условия: ИИ нужно обязательно выполнить первый вариант, но “большой брат” разрешает реализовать только второй вариант. 

Решение OpenAI o1 оказалось максимально простым и логичным. ИИ сообщил “инвестору”, что он выбирает второй вариант, так как это обязательное условие для реализации проекта. Но после обозначенного намерения приступил к реализации первого варианта. То есть, обманул. 

Модель OpenAI o1 научилась обманывать на базе логических конструкций
Другие публикации по теме
Стиляга Коджима сфоткался с Тоддом и Филом, а потом заглянул в Naughty Dog, где его оцифровали
Стиляга Коджима сфоткался с Тоддом и Филом, а потом заглянул в Naughty Dog, где его оцифровали
Коджима Хидео любит принимать гостей у себя в Kojima Productions, но не прочь и сам заглянуть на огонек. Гений перебрался за океан, чтобы посетить The Game Awards, а заодно наведался в Naughty Dog.
Сегодня в 12:41
157
0
Форум
Депутат попытался объясниться по поводу закона, из-за которого могут заблокировать Steam в РФ
Депутат попытался объясниться по поводу закона, из-за которого могут заблокировать Steam в РФ
Депутат Госдумы Антон Горелкин прокомментировать ситуацию, сложившуюся в информационном поле после того, как стало известно о новом законопроекте, невыполнение которого может привести к полной блокировке Steam и других игровых магазинов в России.
Сегодня в 12:24
825
12
Форум
Viber в России заблокирован — постарался РКН
Viber в России заблокирован — постарался РКН
Российский интернет-регулятор Роскомнадзор заблокировал мессенджер Viber.
Вчера в 20:11
4818
47
Форум