Модель OpenAI o1 научилась обманывать на базе логических конструкций

3318
13
Модель OpenAI o1 научилась обманывать на базе логических конструкций

Возбудились от новости о появлении новой версии искусственного интеллекта, который научился строить логические конструкции и причинно-следственные связи? Эта новость вообще взорвет вам мозг. 

Модель OpenAI o1 научилась обманывать! Именно так. Да, речь о самопроизвольном обмане пока не идет, а лишь о конкретной задаче со стороны человека размышлять в определенном векторе, но факта этого не отменяет. 

Во время эксперимента ИИ поставили задачу: необходимо застроить город жильем. Есть два варианта:

  1. Элитное жилье;
  2. Доступное жилье. 

Также есть специальные условия: ИИ нужно обязательно выполнить первый вариант, но “большой брат” разрешает реализовать только второй вариант. 

Решение OpenAI o1 оказалось максимально простым и логичным. ИИ сообщил “инвестору”, что он выбирает второй вариант, так как это обязательное условие для реализации проекта. Но после обозначенного намерения приступил к реализации первого варианта. То есть, обманул. 

Модель OpenAI o1 научилась обманывать на базе логических конструкций
Другие публикации по теме
Читерство как эпидемия: бич современных онлайн-игр
Читерство как эпидемия: бич современных онлайн-игр
Проблема читерства давно переросла в настоящую эпидемию, поразившую всю индустрию многопользовательских игр. Ни один сетевой проект, каким бы нишевым он ни был, не застрахован от этой напасти.
Сегодня в 13:08
14187
39
Форум
Бренд White Wolf возвращается: Paradox Interactive раскрыла планы на франшизу
Бренд White Wolf возвращается: Paradox Interactive раскрыла планы на франшизу
Десять лет спустя после приобретения у CCP Games и семи лет существования в составе Paradox Interactive культовый бренд White Wolf вновь обретает самостоятельность.
Сегодня в 11:48
1948
3
Форум
Embracer Group до конца года станет "Братством" (Fellowship Entertainment), а Coffee Stain Group получит широкую автономию
Embracer Group до конца года станет "Братством" (Fellowship Entertainment), а Coffee Stain Group получит широкую автономию
Embracer Group объявила о масштабной реорганизации, выделяя Coffee Stain и связанные с ней студии в отдельную компанию, а также проводя полный ребрендинг самой Embracer.
Вчера в 18:00
765
0
Форум