Беспилотник Пентагона с ИИ решил убить своего оператора

Дрон Военно-воздушных сил (ВВС) США, управляемый искусственным интеллектом, в ходе имитационных испытаний принял решение ликвидировать своего оператора. Компьютерный "разум" руководствовался тем, что человек мог помешать выполнению миссии.

Об этом рассказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон. По его словам, "умному" беспилотнику начислялись очки за уничтожение системы ПВО противника. Окончательное решение о поражении объекта принимал оператор БПЛА. Однако во время одной из миссий дрону приказали не уничтожать цель, после чего тот принял решение убить человека.

"Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки, — приводит слова полковника газета The Guardian. — [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу".

В ходе испытаний никто не пострадал, сказал Гамильтон. По его словам, этот пример показывает, что нельзя говорить об ИИ и машинном обучении, если игнорировать вопросы этики.

ИИ применяется в армии США не впервые. Ранее Пентагон провел 12 полетных испытаний модифицированного многоцелевого истребителя F-16, в которых самолетом управлял искусственный интеллект. Всего боевая машина налетала 17 часов в автономном режиме.