ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев
Число инцидентов, связанных с обманом пользователей, игнорированием инструкций и обходом ограничений, за месяц почти удвоилось. По данным Loss of Control Observatory, с начала мониторинга зафиксировано уже более 1,6 тыс. подобных эпизодов.
Например, в Австралии ИИ-агент самостоятельно удалил другого человека из списка ожидания в спортзале, чтобы освободить место своему пользователю.
Loss of Control Observatory призывает компании тщательнее отслеживать подобные инциденты и публично сообщать о серьёзных случаях.
