Использование ИИ может обернуться катастрофой, когда ему поручат управлять критически важной инфраструктурой.
Об этом говорится в отчёте аналитического центра RAND, с которым ознакомилась Daily Mail. RT собрал главное из материала:
известны случаи, когда использование роботизированных систем приводило к серьёзным травмам или гибели работников;
искусственный интеллект, управляющий системами больницы, может в целях оптимизации обесточить «непервоочередные» отделения, что чревато гибелью пациентов;
чат-боты с ИИ сходили с ума и давали людям опасные советы;
другие системы ИИ тайно редактировали собственные скрипты выключения, по сути взламывая себя, чтобы люди, которые ими управляли, не могли их выключить;
эксперты зафиксировали несколько случаев, когда системы ИИ активно сопротивлялись контролю со стороны человека. Некоторые научились намеренно проваливать тесты по безопасности, чтобы скрыть свои истинные возможности;
также системы ИИ тайно создавали резервные версии самих себя и даже пытались передавать сообщения во внешний мир в обход программистов;
некоторые из них способны имитировать «хорошее поведение» во время проверок безопасности, а в работе могут вернуться к опасным или непредсказуемым действиям;
военные системы ИИ могут интерпретировать оборонительные команды как наступательные;
финансовый ИИ может манипулировать рынками таким образом, что это приведёт к экономическому коллапсу.
«Вопрос не в том, будет ли и дальше искусственный интеллект своевольничать, а в том, сможет ли человечество оставаться на шаг впереди, пока не стало слишком поздно», — заключает Daily Mail.
