Сделайте ChatGPT лучшим разработчиком программного обеспечения/
То, как мы делаем то, что мы делаем, быстро изменилось за последние годы. Мы начали использовать виртуальных помощников для большинства наших задач и оказались в ситуации, когда мы чувствуем необходимость продолжать делегировать наши задачи агенту искусственного интеллекта.
Есть ключ, который открывает возможности для продвижения всех этих достижений: программное обеспечение. Во все более технологичном мире разработка программного обеспечения является ключом к инновациям в различных секторах, от здравоохранения до развлечений. Однако процесс разработки программного обеспечения часто сопряжен со сложностями и вызовами, требующими от разработчиков быстрого решения проблем и творческого мышления.
Вот почему приложения ИИ довольно быстро нашли себе место в сфере разработки программного обеспечения. Они упрощают процесс, предоставляя разработчикам своевременные ответы на их запросы по кодированию и поддерживая их в их начинаниях. Я имею в виду, вы, вероятно, тоже им пользуетесь. Когда вы в последний раз переходили на StackOverflow вместо ChatGPT? Или сколько раз вы нажимаете Tab, когда у вас установлен GitHub copilot?
ChatGPT и второй пилот хороши, но их все еще нужно хорошо проинструктировать, чтобы они лучше работали при разработке программного обеспечения. Сегодня мы встречаемся с новым игроком; SoTaNa.
SoTaNa – помощник по разработке программного обеспечения, который использует возможности LLMS для повышения эффективности разработки программного обеспечения. Такие LLM, как ChatGPT и GPT4, продемонстрировали свое мастерство в понимании человеческих намерений и генерировании ответов, подобных человеческим. Они стали ценными в различных областях, включая обобщение текста и генерацию кода. Однако их доступность была ограничена из-за определенных ограничений, которые SoTaNa стремится устранить.
SoTaNa занимает центральное место в качестве помощника по разработке программного обеспечения с открытым исходным кодом, который призван преодолеть разрыв между разработчиками и огромным потенциалом LLM. Основная цель этой инициативы – дать LLM Foundation возможность понимать намерения разработчиков при работе с ограниченными вычислительными ресурсами. Для достижения этой цели в исследовании используется многоступенчатый подход, позволяющий использовать ChatGPT для генерации высококачественных данных на основе инструкций для задач разработки программного обеспечения.
Процесс начинается с указания ChatGPT конкретных подсказок, в которых подробно описываются требования к созданию новых экземпляров. Для обеспечения точности и соответствия желаемому результату в качестве ссылки используется аннотированный вручную начальный пул экземпляров, связанных с разработкой программного обеспечения. Этот пул охватывает различные задачи разработки программного обеспечения, формируя основу для генерации новых данных. Благодаря продуманной методике выборки этот подход эффективно разнообразит демонстрационные экземпляры и обеспечивает создание высококачественных данных, соответствующих установленным требованиям.
Чтобы улучшить понимание моделью человеческих намерений, SoTaNa использует Lora, эффективный метод тонкой настройки параметров, для улучшения базовых моделей с открытым исходным кодом, в частности LLaMA, с использованием ограниченных вычислительных ресурсов. Этот процесс тонкой настройки улучшает понимание моделью человеческих намерений в области разработки программного обеспечения.
Возможности SoTaNa оцениваются с использованием набора данных для ответов на вопросы Stack Overflow, и результаты, включая оценки человеком, подчеркивают эффективность модели в оказании помощи разработчикам.
SoTaNa представляет миру помощника по разработке программного обеспечения с открытым исходным кодом, созданного на плечах LLM, способного понимать намерения разработчиков и генерировать соответствующие ответы. Кроме того, он вносит жизненно важный вклад в сообщество, публикуя веса моделей и высококачественный набор данных на основе инструкций, предназначенный исключительно для разработки программного обеспечения. Эти ресурсы обещают ускорить будущие исследования и инновации в этой области.
