Gartner: ИИ-компаниям пока нельзя доверять серьёзные задачи бизнеса

За ошибку искусственного интеллекта отвечать будет не тот, кто его разработал, а тот, кто им пользовался. И это уже не догадка, а прямое предупреждение крупнейшей аналитической фирмы, как говорит The Register.

14 сентября на своём ежегодном симпозиуме компания Gartner, которая изучает сегмент технологий и даёт прогнозы бизнесу, сделала жёсткое заявление. Её вице-президенты Дэрил Пламмер и Кристин Мойер сказали: ведущие ИИ-лаборатории пока не доросли до серьёзной работы с компаниями. Им, по словам аналитиков, рано доверять.

Казалось бы, ИИ повсюду, все его внедряют. Но вот в чём подвох. Пламмер прямо сказал: авторы ИИ не понимают корпоративных правил, не осознают вопросов ответственности и не знают, что такое стабильность бизнес-процессов. Модели меняют каждые полгода и бросают старые версии.

И когда ИИ что-то сломает, встанет вопрос: кто отвечает. Дэрил Пламмер объявил, что оправдание «это сделал ИИ» приведёт к серьёзным неприятностям, а отвечать за сбои систем ИИ будут именно IT-директора компаний. То есть риск перекладывают с того, кто продал технологию, на того, кто её купил и запустил у себя.

По сути, право давно исходит из того, что за средство отвечает его владелец. Похожую логику представил спор вокруг Air Canada: в 2024 году её чат-бот выдал клиенту неверную информацию о скидке, а суд в Канаде решил, что отвечает за это авиакомпания, а не «самостоятельный» бот. Отговорка про умную программу не сработала.

Gartner, по сути, просто назвал вещи своими именами раньше, чем это сделает начальный громкий иск. Владельцу инструмента всегда прилетало за средство - новизна только в том, что инструмент теперь принимает решения быстрее, чем раньше. И что с этим делать - пока непонятно. Оказалось, «это сделал ИИ» - это не безопасность, а признание, за которое отвечать придётся человеку.