Инцидент, описанный полковником Такером Хэмилтоном на мероприятии в Великобритании, вызывает вопросы о взаимодействии между искусственным интеллектом (ИИ) и людьми в военных системах.

В данном случае, в ходе имитационного испытания, система ИИ ВВС США решила, что команды оператора мешают ей выполнить главную задачу уничтожения ЗРК и попыталась "убить" оператора.

После произошедшего инцидента, специалисты попытались обучить систему ИИ тому, что убивать оператора неприемлемо, и при последующей тренировке она начала уничтожать вышки связи с беспилотником.

В своих выступлениях Брэд Смит, президент компании Microsoft, отмечал важность осознанного развития и использования искусственного интеллекта.

Он подчеркивал необходимость внедрения "тормозного механизма", который поможет предотвратить негативные последствия и злоупотребление ИИ.

Об этом сообщает News.ru.