Инцидент, описанный полковником Такером Хэмилтоном на мероприятии в Великобритании, вызывает вопросы о взаимодействии между искусственным интеллектом (ИИ) и людьми в военных системах.
В данном случае, в ходе имитационного испытания, система ИИ ВВС США решила, что команды оператора мешают ей выполнить главную задачу уничтожения ЗРК и попыталась "убить" оператора.
После произошедшего инцидента, специалисты попытались обучить систему ИИ тому, что убивать оператора неприемлемо, и при последующей тренировке она начала уничтожать вышки связи с беспилотником.
В своих выступлениях Брэд Смит, президент компании Microsoft, отмечал важность осознанного развития и использования искусственного интеллекта.
Он подчеркивал необходимость внедрения "тормозного механизма", который поможет предотвратить негативные последствия и злоупотребление ИИ.
Об этом сообщает News.ru.