Ученые наделили роботов способностью обманывать друг друга

Ученые Технологического института штата Джорджии в США смогли разработать роботов, которые могут обманывать друг друга. Идея разработки пришла специалистам, когда они наблюдали за поведением белок и птиц. Практическое применения данного исследования найдется в военных разработках. Работа опубликована в IEEE Intelligent Systems.

Группа ученых, руководителем которых является профессор Рональд Аркина сначала провели биологическое исследование – они изучили поведение белок, которые собирают желуди и прячут их в своем тайнике. Если какая-то из белок подсматривает за тайником, прячущее свою добычу животное изменит ее поведение. И вместо мест хранения своих запасов, она начинает посещать ложные тайники, запутывая следы к своей настоящей добычи. Как раз такая модель была использована учеными в роботах. Если противник находиться неподалеку, робот изменяет свою стратегию патрулирования, и обманывает таким образом другого робота, а может быть даже и человека. Так, можно выиграть время, пока не придет помощь.

Кроме того, было проведено исследование поведения птиц, «блефующих» перед опасносностью – притворяющихся более сильными, чем они есть на самом деле, и даже нападающих на врага. Помимо эмпирических данных, есть также и математическая модель, которая доказывает, что такого рода обман может представлять из себя эффективную стратегию, польза от такого обмана больше риска быть пойманным. И при военных операциях, робот, находящийся под угрозой, может также эффективно симулировать свою возможность борьбы с врагом. Даже если робот сам не может защитить себя, то его поведение может повлиять на интеллектуальную технику противника – заставить ее принять решение о неоправданности риска. «Обман, используемый в нужное время, может свести угрозу к минимуму»,- сказал Аркин.

Проф. Аркин отметил также, что возможность расширения технологии за пределами военной области, где иногда «любое средство хорошо», может привести к появлению большого количества этических вопросов. Он говорит о том, что необходимо учесть моральную приемлемость результатов исследований, которые дают возможность роботам обманывать.