December 09, 2018

Не новость, но любопытная история для тех, кто любит читать о том, как научная фантастика становится реальностью, и размышлять над нашим совместным с искусственным интеллектом будущим.

Больше года назад CCP Games начали добавлять своим NPC (неигровые, процедурно генерируемые фракции и корабли) в космической MMORPG EVE Online более сложные механики взаимодействия с окружающим миром и игроками: вызывать подкрепления для своих флотов, адаптироваться к ситуациям в планетарных системах, занимать выгодные позиции для ведения боя. Фактически, сгенерированные игрой персонажи получили в своё распоряжение некоторые элементы искусственного интеллекта. А дальше всё пошло не так, как запланировали разработчики.

С новым обновлением в ноябре 2017 года в секторах космоса с высокой степенью безопасности начали появляться новые NPC: пиратские базы. В феврале этого года в одном из таких секторов пираты столкнулись с другой NPC-фракцией - шахтерами, которые мирно добывали ресурсы из поясов астероидов. Шахтеры и пираты вступили в бой. Шахтеры проигрывали, но их обновлённый AI решил не сдаваться, и запросил подкрепление у Аммарской империи (тоже неигровая фракция под управлением AI). Поскольку сектор считался безопасным, небольшое подкрепление не справилось с задачей, и пираты почти победили. И тут на арене появилась ещё одна неигровая фракция - Скитальцы. Их разведчики начали сканировать астероиды и корабли в системе. Пираты и шахтеры посчитали Скитальцев большей угрозой и, по принципу “враг моего врага - мой друг”, объединились против скитальцев. В свою очередь, AI Скитальцев вызвал на поле боя два могущественных боевых корабля. Битва закончилась победой пиратов, а корабли шахтёров стали в ней фактически “пушечным мясом”, принимая на себя огонь Скитальцев и давая пиратам возможность вести огонь.

CCP Games узнали о бое случайно - по репортам о смертях кораблей от NPC. Креативный директор CCP Games сообщил игрокам о бое www.reddit.com/r/Eve/comments/7x6krl/and_noone_was_there_to_see_it/ , а компания приступила к расследованию ситуации. Позже представители CCP признали, что подобный сценарий не был ими предусмотрен imperium.news/shall-we-play-a-game-emergent-ai-results-all-in-npc-fight/.

Так искусственный интеллект впервые вышел из под контроля разработчиков в отдельно взятой игровой вселенной. На этот раз всё обошлось: пострадали только вычислительные мощности CCP. А разработчики задумались о рисках неконтролируемого поведения AI. Вообще, похоже что игровые вселенные могут быть хорошим полигоном для тестирования искусственного интеллекта до того, как выпускать его в мир живых людей.

r/Eve - And no-one was there to see it

103 votes and 53 comments so far on Reddit