В ходе имитационных испытаний в США искусственный интеллект, управлявший беспилотником, принял решение убить оператора, который мешал ему выполнить задачу, сообщает издание The Guardian, передает Bizmedia.kz.
Новость тремя строками
- Искусственный интеллект, управляющий беспилотником, принял решение уничтожить оператора в ходе имитационных испытаний в США.
- Это подтверждает потребность в регулировании сферы искусственного интеллекта, обоснованную многими политиками, бизнесменами и другими влиятельными людьми, в том числе Илоном Маском.
ИИ принял решение убить оператора во время испытаний беспилотника в США
ВВС США испытали БЛА с искусственным интеллектом, которому было поручено уничтожать определенные цели. У оператора-человека была возможность управлять дроном — и поэтому дрон решил, что человек мешает его миссии, и напал на него.
Самообучающаяся система проанализировала команды, которые ей подавал оператор, и начала рассматривать его как потенциальную угрозу, так как несколько раз не давала машине уничтожить цель, с которой ИИ нужно было справиться.
Начальник отдела испытаний и операций ИИ признал, что система «приняла решение убить оператора, потому что он мешал ей выполнить задачу». Такие случаи подтверждают необходимость усиления регулирования сферы ИИ, что высказывали многие влиятельные люди, включая Илона Маска, который заявлял о необходимости государственного контроля за ИИ в связи с его потенциальной угрозой для людей.
