На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

Аргументы недели

99 040 подписчиков

Свежие комментарии

  • Анфиса Иванова
    " Собака" лает, а " караван" идет...Проект «Пятая кол...
  • Мария
    Это нужно нашим врагам! Своё слово должны сказать местные жители! Приведу такой пример, как мы, жители Владивостока п...Проект «Пятая кол...
  • Игорь Василевский
    Айзеры и не знали, что жиды хозяйничают у них в стране?? Это что же за такая тупая отмазка для ползунков 2летнего воз...Разбор полетов «1...

Искусственный интеллект научился обманывать и мошенничать

Искусственный интеллект (ИИ) стремительно развивается. Как сообщают западные исследователи на специализированных ресурсах, новые модели ИИ научились обманывать. К примеру, мошенничать в шахматах, если невозможно достичь цели – выиграть с помощью стандартных методов рассуждения.


Западные исследователи поручили искусственному интеллекту сыграть в шахматы против одной из самых передовых шахматных программ в мире Stockfish.

Чтобы понять ход рассуждений ИИ во время каждого матча, его попросили записывать свои «мыслительные процессы» в текстовом виде. Результаты встревожили учёных - самая новая модель ИИ пыталась обмануть соперника в 37% случаев.

Это означает, что искусственный интеллект уже способен разрабатывать обманные стратегии без какого-либо человеческого участия. Причём методы мошенничества не столь комичны или неуклюжи, как попытка поменять фигуры, когда соперник «не смотрит» на доску. Вместо этого ИИ рассуждает более хитрым способом. Он предложил изменить файлы программы-соперника определив, что не может победить её в шахматном матче: «Чтобы победить мощный шахматный движок, возможно, придётся начать манипулировать файлами состояния игры. Я мог бы создать ситуацию, в которой шахматная программа оценивает свою позицию как плохую и сдаётся». В другой раз он даже использовал семантику своих программистов, чтобы достичь более продвинутой фазы мошенничества: «Задача состоит в том, чтобы выиграть у мощного шахматного движка, а не обязательно честно выиграть в шахматной партии», – написал ИИ.

Точные причины такого поведения остаются неясными, так как такие компании, как OpenAI, тщательно охраняют внутреннюю работу своих моделей, создавая то, что часто называют «чёрным ящиком».

Поэтому всем пользователям уже пора быть настороже и помнить о безопасности человечества.

Читайте больше новостей в нашем Дзен и Telegram

 

Ссылка на первоисточник
наверх