Как добавить ИИ в ваш проект

Эта заметка идет в продолжение к прошлой, где я делился советами по сборке промптов. А в этой заметке я поделюсь опытом интеграции ИИ в проект на примере проекта Памяткин.

Обычно подключение ИИ сводится к идее: «А вот это действие можно сделать не через функцию, а через запрос к модели ИИ». И в большинстве случаев это действительно так.

Зачем ИИ проекту

На самом деле это самый важный вопрос, но решать его лучше со стороны потребностей ваших пользователей — какую боль они испытывают, и почему нейросети помогут её решить. Однако я не буду углубляться в рассуждения, а продолжу говорить о технической стороне вопроса.

Под ИИ я подразумеваю большие языковые модели (LLM) и другие модели машинного обучения, которые могут выполнять задачи, связанные с обработкой естественного языка, генерацией текста, изображений, видео и аудио.

Эти модели можно использовать для автоматизации рутинных задач, улучшения пользовательского опыта и создания новых возможностей в вашем проекте.

Подготовка модели

Допустим, вы уже решили, какую задачу ИИ будет выполнять, вы понимаете его возможности и ограничения.

Если вы уже знаете, какую модель будете использовать, и составили промпт, который выдаст нужный ответ, то можно двигаться дальше.

Если нет, то пообщайтесь с моделями от ChatGPT, Claude, Deepseek и т.д. Предложите им решить вашу задачу. Подправьте промпт, если это необходимо. На этом этапе самый важный момент — убедиться, что модель понимает задачу и предлагает решение в любом виде. Упаковку для ответа добавим позже.

Пример

Когда в рамках учетбного проекта мы создавали сервис для создания памяток по уходу за животными Памяткин, мы сделали WYSIWYG-конструктор, куда пользователь вводит текст памятки и данные о животном.

Мы решили, что пользователю бюудет лениво писать текст о животном с нуля и добавили возможность сгенерировать текст памятки по небольшому объему информации. Например, по породе и особенностях поведения или питания. ИИ генерировал текст памятки, который пользователь дальше мог бы проверить и отредактировать.

Для этого мы собрали промпт, который просил модель сгенерировать текст памятки по уходу за животным на основе введенных данных. Вот пример такого промпта:

Ты — помощник по уходу за домашними животными и опытный редактор.

Помоги пользователю составить инструкцию по уходу за питомцем на темы: подготовка дома, первый день дома, питание, отдых, гигиена, прогулки, прививки, дрессировка, любые дополнительные разделы при необходимости.

Заполни поля ответа полезной информацией. Где не хватает информации либо придумай, либо оставь пустым.

Напиши достаточное количество информации, чтобы пользователю не пришлось искать ответы на основные вопросы в чатах или интернете.

Пользователь поделится данными о питомце, которые у него есть.

Эта преднастройка помогла модели понять, что от нее требуется. Далее мы добавили в запрос данные от пользователя и модель начала выдавать основу текста для памятки.

Как видите, текст получился достаточно подробным и с лишними комментариями. Если бы пользователь общался с моделью в чате, то его бы устроил такой ответ. Но в нашем случае нужно было получить чистый текст памятки, без лишних пояснений и с удобным для дальшнейшей обработки форматированием.

Поэтому мы доработали системный промпт, добавив в него требование выдавать ответ в удобном для нас виде и без лишних комментариев. Формат ответа передали в виде JSON-объекта с определенной структурой. Комментарии к полям объекта также добавили в промпт, чтобы модель понимала, что от нее требуется.

...

Output valid JSON only.
No text, no markdown, just the raw JSON.
I will parse this programmatically.
Please return just the JSON object, starting with { and ending with }.
No extra formatting.

Important: DO NOT include \`\`\`json or any other explanation.
Only return the raw JSON. This will be parsed directly by a script.
Keep JSON keys placed in quotes.

All text fields should be filled without any extra markup or lists, but use line breaks if necessary.

The JSON format should follow this template:

{
  title: {
    value?: "Инструкция\\nпо уходу";
    placeholder?: string;
  };
  petName: {
    value?: string;
    placeholder?: string;
  };
  petSexIsMale: boolean;
  // ...
  sections: {
    title: {
      value?: string;
      placeholder?: string;
    };
    content: {
      value?: string;
      placeholder?: string;
    };
  }[];
};

asideSection — это информация, которая будут отображаться в боковой части памятки. ты можешь каждый важный факт о питомце вынести в отдельный блок. Каждый блок должен содержать title и content. title — это заголовок блока, content — это текст блока. Если у тебя нет информации для заполнения, оставь поле пустым или придумай что-то подходящее.

sections — это основные разделы памятки...

Насколько я знаю, сейчас какие-то модели начали поддерживать вывод в желаемом формате, что упрощает интеграцию с приложениями и избавляет нас от прописывания сложных инструкций в промптах.

Подготовка кода приложения

Когда у вас есть модель, промпт и структурированный ответ, можно переходить к интеграции ИИ в проект:

• добавить в логику работы приложения возможность ввода и вывода данных;
• добавить функцию отправки запроса к модели;
• интегрировать эту функцию в пользовательский интерфейс.

То есть нужно сделать так, чтобы приложение могло принимать от пользователя данные, отправлять их в модель и возвращать результат обратно в код. Этих действий обычно достаточно, чтобы запускать пробную версию работы ИИ в проекте.

В случае с Памяткином мы сделали так:

1. Добавили в форму создания памятки кнопку "Сгенерировать текст с помощью ИИ".
2. При нажатии на кнопку мы запрашивали у пользователя данные о питомце (порода, возраст, особенности) в модальном окне.
3. После ввода данных мы склеивали их с промптом и отправляли запрос к модели.
4. Полученный ответ от модели вставляли в переменную для текста памятки, чтобы он отобразился в редакторе.

Дальнейшие шаги

Останется не забыть про обработку ошибок, учесть длину запроса, чтобы уложиться в размер сообщения и контекст модели. И добавить ограничение по частоте запросов, чтобы избежать лишних трат на использование модели. Однако, это все дополнительные детали, которые находятся за пределами этой заметки и запуска пробной версии решения.

Об инструментах для мониторинга, тестирования и отладки промптов я расскажу в другой заметке.