Microsoft научила искусственный интеллект искать ошибки в своем программном коде

Компания Microsoft создает алгоритмы машинного обучения для выявления ошибок и уязвимостей в программном коде. Искусственный интеллект (ИИ), сообщила Microsoft в своем официальном блоге, будет работать совместно с экспертами по безопасности, и такой тандем, надеются в компании, позволит повысить эффективность поиска недочетов в коде.

Внедрение ИИ, считают в компании, позволит не только лучше выявлять ошибки, но и тратить на это меньше времени. Также его использование даст специалистам возможность не реагировать на так называемые «ложные срабатывания» – подозрения на ошибки, в итоге не получающие подтверждений.

По данным Microsoft, ее штат из 47 тыс. разработчиков в процессе написания кода каждый месяц генерирует приблизительно 30 тыс. ошибок, на выявление которых им придется потратить значительное количество своего рабочего времени. Ситуацию осложняет и тот факт, что содержащий ошибки код размещается не в одном хранилище, а нескольких десятках – девелоперы хранят его более чем в 100 хранилищах на GitHub и AzureDevOps.

Модель машинного обучения для нового искусственного интеллекта Microsoft построена на информации о 13 млн рабочих элементов и ошибок в программном коде. Эти данные Microsoft собирает с 2001 г.

Информацию, с которой работает искусственный интеллект, была заранее отобрана экспертами по безопасности Microsoft с использованием статистической выборки. Обучение модели проходило в два этапа: сперва она стала выявлять ошибки безопасности и другие ошибки в коде, а затем к этой способности добавилось умение расставлять так называемые «метки серьезности» – модель научилась относить эти ошибки к критическим, важным и малозначимым.

Точность выявления по результатам первых тестов работы модели оказалась очень высокой – ИИ смог выявить рабочие элементы с ошибками безопасности в 99% случаев. Правильное разделение этих ошибок на критические и некритические происходит в 97% случаев.

Как и при первичном обучении, для выявления ошибок во время повторного обучения модель Microsoft применяет два метода их предсказания. Первый, по данным ресурса VentureBeat, основан на так называемой «модели логистической регрессии», используемой для выявления вероятности существования определенного класса или события. Второй метод – это инверсия частоты, с которой то или иное слово встречается в обрабатываемых моделью документах (term frequency-inverse document frequency algorithm (TF-IDF)).