На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)

Аргументы недели

99 041 подписчик

Свежие комментарии

  • Владимир Негода
    вот так надо воевать .... 12 дней и все закончилось , кое - кому надо - бы съездить туда на практику !Во время войны с ...
  • Амара Карпова
    пурга😂Песков заявил, чт...
  • людмила михайлик
    Иран против фашистов Израиля, Англии, США и Европы,победа ИрануВо время войны с ...

Искусственный интеллект научился обманывать и мошенничать

Искусственный интеллект (ИИ) стремительно развивается. Как сообщают западные исследователи на специализированных ресурсах, новые модели ИИ научились обманывать. К примеру, мошенничать в шахматах, если невозможно достичь цели – выиграть с помощью стандартных методов рассуждения.


Западные исследователи поручили искусственному интеллекту сыграть в шахматы против одной из самых передовых шахматных программ в мире Stockfish.

Чтобы понять ход рассуждений ИИ во время каждого матча, его попросили записывать свои «мыслительные процессы» в текстовом виде. Результаты встревожили учёных - самая новая модель ИИ пыталась обмануть соперника в 37% случаев.

Это означает, что искусственный интеллект уже способен разрабатывать обманные стратегии без какого-либо человеческого участия. Причём методы мошенничества не столь комичны или неуклюжи, как попытка поменять фигуры, когда соперник «не смотрит» на доску. Вместо этого ИИ рассуждает более хитрым способом. Он предложил изменить файлы программы-соперника определив, что не может победить её в шахматном матче: «Чтобы победить мощный шахматный движок, возможно, придётся начать манипулировать файлами состояния игры. Я мог бы создать ситуацию, в которой шахматная программа оценивает свою позицию как плохую и сдаётся». В другой раз он даже использовал семантику своих программистов, чтобы достичь более продвинутой фазы мошенничества: «Задача состоит в том, чтобы выиграть у мощного шахматного движка, а не обязательно честно выиграть в шахматной партии», – написал ИИ.

Точные причины такого поведения остаются неясными, так как такие компании, как OpenAI, тщательно охраняют внутреннюю работу своих моделей, создавая то, что часто называют «чёрным ящиком».

Поэтому всем пользователям уже пора быть настороже и помнить о безопасности человечества.

Читайте больше новостей в нашем Дзен и Telegram

 

Ссылка на первоисточник
наверх