Модель OpenAI o1 научилась обманывать на базе логических конструкций

3341
13
Модель OpenAI o1 научилась обманывать на базе логических конструкций

Возбудились от новости о появлении новой версии искусственного интеллекта, который научился строить логические конструкции и причинно-следственные связи? Эта новость вообще взорвет вам мозг. 

Модель OpenAI o1 научилась обманывать! Именно так. Да, речь о самопроизвольном обмане пока не идет, а лишь о конкретной задаче со стороны человека размышлять в определенном векторе, но факта этого не отменяет. 

Во время эксперимента ИИ поставили задачу: необходимо застроить город жильем. Есть два варианта:

  1. Элитное жилье;
  2. Доступное жилье. 

Также есть специальные условия: ИИ нужно обязательно выполнить первый вариант, но “большой брат” разрешает реализовать только второй вариант. 

Решение OpenAI o1 оказалось максимально простым и логичным. ИИ сообщил “инвестору”, что он выбирает второй вариант, так как это обязательное условие для реализации проекта. Но после обозначенного намерения приступил к реализации первого варианта. То есть, обманул. 

Модель OpenAI o1 научилась обманывать на базе логических конструкций
Другие публикации по теме
Кори Барлог и Santa Monica переосмыслят IP Sony, и это не sci-fi
Кори Барлог и Santa Monica переосмыслят IP Sony, и это не sci-fi
Вокруг нового проекта Кори Барлога и его команды из Santa Monica ходит много слухов, но некоторые взялся развеять Джейсон Шрайер. После чего попросил больше не задавать ему вопросов на эту тему.
Вчера в 17:33
283
0
Форум
В июле в Game Pass нальют RoboCop: Rogue City, Wuchang: Fallen Feathers и еще шесть игр
В июле в Game Pass нальют RoboCop: Rogue City, Wuchang: Fallen Feathers и еще шесть игр
Microsoft раскрыла вторую июльскую партию игр, которые получат подписчики Game Pass на ПК и Xbox: она включает RoboCop: Rogue City — как раз в день релиза дополнения Unfinished Business.
Вчера в 16:33
770
1
Форум
Никто и не сомневался: мессенджер Max будет доделывать дочка VK
Никто и не сомневался: мессенджер Max будет доделывать дочка VK
Правительство России утвердило распоряжение о создании национального мессенджера Mах в рамках закона об объединении отечественных цифровых сервисов, подписанного президентом Владимиром Путиным в июне.
Вчера в 15:33
5224
17
Форум