Модель OpenAI o1 научилась обманывать на базе логических конструкций

3019
13

Возбудились от новости о появлении новой версии искусственного интеллекта, который научился строить логические конструкции и причинно-следственные связи? Эта новость вообще взорвет вам мозг. 

Модель OpenAI o1 научилась обманывать! Именно так. Да, речь о самопроизвольном обмане пока не идет, а лишь о конкретной задаче со стороны человека размышлять в определенном векторе, но факта этого не отменяет. 

Во время эксперимента ИИ поставили задачу: необходимо застроить город жильем. Есть два варианта:

  1. Элитное жилье;
  2. Доступное жилье. 

Также есть специальные условия: ИИ нужно обязательно выполнить первый вариант, но “большой брат” разрешает реализовать только второй вариант. 

Решение OpenAI o1 оказалось максимально простым и логичным. ИИ сообщил “инвестору”, что он выбирает второй вариант, так как это обязательное условие для реализации проекта. Но после обозначенного намерения приступил к реализации первого варианта. То есть, обманул. 

Модель OpenAI o1 научилась обманывать на базе логических конструкций
Другие публикации по теме
Sony официально подтвердила свое намерение купить Kadokawa, владеющую создателями  Elden Ring
Sony официально подтвердила свое намерение купить Kadokawa, владеющую создателями Elden Ring
Компания Sony решила перестать играть в секрет Полишинеля и официально подтвердила свое намерение приобрести компанию Kadokawa, которая владеет студией From Software, авторами Elden Ring и Bloodborne.
Сегодня в 20:00
158
0
Форум
Лучшие игры года по версии Gamespot — некоторые победители вас удивят
Лучшие игры года по версии Gamespot — некоторые победители вас удивят
Игровой портал Gamespot подвел итоги уходящего года, отметив лучшие игры.
Сегодня в 18:20
373
0
Форум
Лиза Су признана лучшим гендиректором года по версии журнала TIME
Лиза Су признана лучшим гендиректором года по версии журнала TIME
Авторитетнейший журнал Time подводит итоги уходящего года. Рейтинг редакции по лучшим играм 2024 мы уже публиковали ранее, а в недавнем выпуске на обложку попала руководитель AMD Лиза Су. Именно ее признали лучшим генеральным директором этого года.
Сегодня в 18:00
367
4
Форум