Линус Торвальдс исправил дефект в ядре Linux при помощи ИИ

После полного выключения и включения компьютера Linux показывал чёрный монитор. Графическая интерфейс постоянно перезапускалась, хотя сама платформа продолжала функционировать. Лечилось перезапуском оболочки.

Фиксом занялся сам Линус Торвальдс. И в помощники он взял себе AI.

Сама причина находилась в драйвере Intel Xe и расчёте границы видеопамяти. Часть VRAM видеокарта резервирует для служебных данных аппаратного сжатия. Драйвер получает адрес, с которого начинается эта закрытая область, и передаёт всю память ниже него обычным приложениям.

Но адрес не всегда совпадал с границей страницы памяти.

Легаси код использовал round_up() – округлял адрес вверх. В связи с этого граница свободной памяти сдвигалась внутрь зарезервированной области.

На компьютере Линуса граница проходила посередине страницы размером 4 КБ: последние 2 КБ уже принадлежали механизму сжатия, но драйвер мог отдать всю страницу приложению.

По итогу видеокарта записывала служебные информация поверх размещённой там таблицы страниц. Графическая оболочка теряла доступ к нужной области памяти и падала.

Исправлением послужила замена round_up() на round_down().

Теперь адрес округляется вниз до начала страницы. Если хотя бы часть страницы занята служебными данными видеокарты, драйвер исключает из доступной памяти всю страницу. Теряется некоторое количество килобайт VRAM, зато приложения больше не получают память, которую может перезаписать оборудование.

Само исправление уместилось всего в одну строку. Но для его поиска потребовались 24 диагностических патча и 18 перезагрузок ядра.

AI по сути занялся главный рутиной. Он добавлял различный диагностический код и анализировал результаты. Правда, несколько раз помощник объявлял проблему нерешаемой и предлагал остановиться на составлении отчёта 😅 . Как говорится, "лень прежде нас родилась".

Но Линус был упрямее и каждый раз заставлял его продолжать.

В конце Торвальдс признал, что AI оказал огромную помощь, и даже разрешил ему написать описание итогового коммита. Какую схема он использовал, Линус не сообщил. 

Мораль сей басни такова, что AI не нашёл ошибку одной волшебной командой и не заменил инженера (выдыхаем). Он выполнял механическую работу, пока человек строил гипотезы, проверял результаты и не принимал ответ, якобы это невозможно.

Михаил Поливаха обещал обсудить баг на подкасте более детально. Ждем!

Источник: коммит в ядре Linux

Присоединяйтесь к русскоязычному сообществу разработчиков на Spring Boot в телеграм — Spring АйО, чтобы быть в курсе последних новостей из мира разработки на Spring Boot и всего, что с ним связано.