Nestor: Умный помощник для разработки в Тинькофф
Каждый день появляются инструменты и технологии, которые могут существенно облегчить жизнь разработчиков. Одна из таких технологий — нейронные сети, способные автоматически генерировать код.
В конце 2023 года мы зарелизили внутренний продукт Nestor — умного ассистента для разработчиков, который быстро стал незаменимой частью рабочего процесса многих команд в нашей компании. В этой статье мы расскажем о том, как родился Nestor, какие возможности он дает сегодня и как мы планируем его развивать.
Как появился Nestor
Нейронные сети — относительно новая и активно развивающаяся область в информационных технологиях. Использование генеративных языковых моделей в разработке ПО очень перспективно, потому что может значительно сократить время на выполнение рутины и позволить сосредоточиться на более сложных задачах. Мы в Тинькофф начали экспериментировать с самым популярным таким решением — GitHub Copilot, но столкнулись с несколькими проблемами:
По этим причинам мы решили создать собственный внутренний продукт, который бы помогал разработчикам в повседневной работе, но при этом был полностью безопасным и управляемым. Так родился Nestor.
Ассистирование в IDE
Цель Nestor — упростить процесс программирования и снизить когнитивную нагрузку на разработчиков. Сейчас его основная функциональность — автоматически генерировать код, чтобы ускорить процесс написания программ и сделать его более эффективным. При этом важно, чтобы подсказки было удобно принимать и проверять.
В итоге мы реализовали:
Блочные подсказки — функциональность, позволяющая генерировать готовые фрагменты кода, которые можно легко вставить в проект. Это значительно ускоряет процесс написания программ и помогает сосредоточиться на более высокоуровневых задачах, а не на рутинной работе.
Концепция реализации подсказок простая: собираем контекст из релевантных файлов, добавляем информацию о текущем файле и позиции курсора в нем, а потом используем модель для генерации.
На практике же
Одним из значительных примеров стала интеграция Nestor во внутреннюю систему Helicopter, которую используют аналитики Тинькофф для написания запросов, — подробнее о ней рассказываем в статье. В результате этой интеграции Nestor стал помогать не только разработчикам в написании кода, но и аналитикам в формировании сложных
Детали реализации
Схема работы на первый взгляд довольно простая:
Общая схема работы
У реализации продукта есть свои особенности. Для обеспечения удобства разработчиков нам приходится писать расширения для разных IDE: VS Code и продуктов от JetBrains. Это две совершенно разные экосистемы.
Расширения для VS Code пишутся на Typescript, а для JetBrains — на Kotlin или Java, поэтому команде приходится писать на двух языках. Взаимодействие с API сильно разное, не говоря уже о графических составляющих. Поэтому особенно интересно реализовать общий логический модуль, за счет которого можно уменьшить дублирование кода.
Оптимизация потребляемых вычислительных ресурсов тоже критична в мире, где не хватает
Важную роль играет качество самой модели. Для первичного подбора мы использовали HumanEval. Сейчас переходим на более подходящие под наш случай RepoBench и CrossCodeEval — бенчмарки, которые добавляют контекст из других файлов и оценивают совпадение сгенерированного кодового выражения с исходным.
Планы
Мы не ограничиваемся помощью только программистам и только в IDE. Мы хотим, чтобы Nestor стал универсальным помощником для всех специалистов в области ИТ в Тинькофф, включая системных аналитиков, тестировщиков и SRE. Поэтому в планах: