Як підключити ChatGPT від OpenAI до чат-бота

У SendPulse ви можете підключити модель GPT від OpenAI до чат-бота, щоб надавати користувачам ще більш просунуті, автоматизовані відповіді та допомагати їм вирішувати різні додаткові завдання.

Розглянемо, як створити обліковий запис OpenAI, підключити його до вашого чат-бота, які бувають моделі і як можна натренувати відповіді бота під ваші завдання.

Ознайомлення з OpenAI

GPT (Generative Pre-trained Transformer) — це великомасштабна нейронна мережа від компанії OpenAI, яку можна використовувати для генерації тексту та коду.

Основні моделі можуть реалізовувати різні завдання: аналізувати тексти різної складності та видавати відповіді, оптимізувати текст під SEO або SMM завдання, категоризувати текст у таблиці, допомагати з мозковим штурмом, редагувати та перекладати тексти, працювати з кодом та математичними завданнями, підтримувати діалог на будь-які чи задані теми.

Більше про завдання та можливості використання GPT моделей читайте в нашому блозі: GPT в чат-ботах: можливості для бізнесу та експертів у 2023 році.

Для налаштування GPT під ваші завдання через бот, потрібно вибрати модель і додати вказівки — наприклад, ви можете додати тон відповідей, обмежити список питань, надати додаткову інформацію або приклад, в якому вигляді бажаєте відповідати.

Створіть обліковий запис

Перейдіть на сторінку OpenAI > Products > Documentation та створіть обліковий запис. Для цього натисніть Sign-up у правому верхньому куті сторінки, введіть email адресу та натисніть Continue або продовжіть з обліковим записом у Google або Microsoft.

Якщо вводили адресу, введіть пароль у наступному вікні. Вам на пошту прийде лист підтвердження. Натисніть у листі на кнопку Verify і після переходу на сторінку, введіть дані про себе: ім'я та назву організації.

Введіть номер, на який прийде SMS підтвердження. Введіть код та увійдіть до облікового запису.

При введенні номера зверніть увагу на те, що OpenAI доступний не в усіх країнах. Ви можете ознайомитися зі списком країн, що підтримуються за посиланням Supported countries and territories.

Скопіюйте API ключ

Після авторизації в акаунті, у верхньому правому куті натисніть на значок налаштувань (Settings).

В лівій панелі перейдіть у розділ Your profile, а потім у вкладку User API keys.

Ви можете створювати різні API key для проєктів у вашому акаунті OpenAI. Це зроблено для зручного управління командою та збереження даних, а власник акаунту може генерувати ключі в усіх проєктах. Вам не обов’язково створювати окремі проєкти — всі дані будуть збережені в автоматично створеному Default project. Більше про можливості створення проєктів читайте в документації OpenAI.

Натисніть View project secret Key.

Натисніть Create new secret key.

У модальному вікні оберіть власника та налаштуйте параметри ключа.

Натисніть Create secret key та скопіюйте його в наступному вікні.

Вам потрібно зберегти ключ на своєму пристрої, оскільки під час повторного входу ви не зможете скопіювати ключ. Якщо ви втратите його, вам потрібно буде згенерувати новий ключ.

Підключення інтеграції

Вставте ключ API

Виберіть бота і перейдіть до Налаштування бота (Bot settings) у вкладку Інтеграції (Integrations). Навпроти OpenAI натисніть Підключити (Enable).

Виберіть спосіб підключення:

Виберіть модель

Виберіть, яку модель AI використовуватиме генерації відповідей.

Ви можете переглянути приклади використання моделі в розділі Examples та OpenAI Cookbook, а також поекспериментувати в Playground.

Додайте інструкцію для бота

Моделі GPT можуть виконувати різні завдання — від складного аналізу тексту до створення відповіді на необмежений список тем. Щоб обмежити область відповідей робота, надати тональність розмови, персоніфікувати вашого бота під певного персонажа чи людину, а також додати інформацію про свою компанію, потрібно створити вказівки для бота.

Створюючи підказку, пам'ятайте наступні рекомендації:

1. Додайте максимальну кількість контексту та умов для відповіді у кожному сценарії. Перерахуйте всі передумови взаємодії з ботом: вкажіть, які користувачі та на якому етапі вирішення своїх завдань будуть звертатися, які подробиці необхідно врахувати у відповідях, а які теми уникати.
   Давайте моделі завдання згенерувати кілька результатів, щоб мати можливість порівняти та вказати їй найбільш відповідний.
2. Дайте зрозуміти, чого ви хочете, за допомогою прикладів. Наприклад, якщо вам потрібно, щоб модель ранжувала список елементів в алфавітному порядку або класифікувала абзац за настроєм, перерахуйте приклади запитів і очікуваний формат результату або якого ефекту ви хочете досягти. Якщо вам потрібно, щоб бот на запитання відповідав належним чином — наведіть приклад запитання та відповіді.
3. Надайте якісні та максимально точні дані. Перевірте свої приклади - модель зазвичай досить розумна, щоб упізнати основні орфографічні помилки, але вона також може припустити, що це зроблено навмисно, і це може вплинути на відповідь. Якщо вам потрібно, щоб модель відповідала певною мовою, вкажіть цю мову прямо. Також рекомендується використовувати слова замість цифр. Пам'ятайте, що AI розуміє всі вказівки буквально.
4. Персоніфікуйте модель. Щоб модель могла увійти в образ певної людини чи персонажа, опишіть, чим вона займається, які якості має, в якому тоні або з яким лексиконом спілкуватиметься, а також інші аспекти життя віртуального помічника.
5. Тестуйте отриманий результат та оновлюйте інструкцію. Після налаштування підказок обов'язково протестуйте отриманий результат, переглядайте діалоги з користувачами та за потреби коригуйте вказівки бота, додаючи або прибираючи деталі. Тренуйте модель, поки не досягнете бажаних результатів.

У полі Інструкція для бота (Bot instruction) додайте вказівки у вільній формі, дотримуючись рекомендацій.

Зверніть увагу, що у моделей є різні ліміти за кількістю символів, які ви можете ввести. Читайте докладніше в таблиці про ліміти.

AI аналізує текст всіма мовами та може відповідати мовою, яку ви вказали, але найкраще він взаємодіє з англійською. Якщо ви не вказуєте мову, за замовчування відповідатиме англійською.

Якщо виникнуть питання щодо знаходження кращого опису для інструкції бота або за можливими сценаріями реалізації, ви можете звернутися до відкритої спільноти OpenAI.

Додайте кількість токенів 

Токен – частина слова, яка використовується для обробки природної мови. Для англійського тексту 1 токен це приблизно 4 символи або 0,75 слова. Для інших мов та більш точного розрахунку, ви можете скористатись калькулятором від OpenAI.

У полі Максимальна кількість відповідних токенів (Maximum number of tokens in response) вкажіть число з останнього стовпчика:

При першій реєстрації OpenAI дає $18 доларів на 3 місяці. З цієї суми зніматиметься плата за використання токенів.

Тарифи за токени різняться, залежно від моделі, що використовується. Наприклад, модель gpt-3.5-turbo-16k коштує вдвічі дорожче за модель gpt-3.5-turbo, оскільки вона використовує більше контексту. Читайте докладніше: What are tokens and how to count them та про тарифи в розділі Pricing.

Щоб подивитися, скільки токенів у вас залишилося, перейдіть у ваш обліковий запис OpenAI у вкладку Usage.

Щоб переглянути історію використання токенів, прокрутіть сторінку нижче до розділу Daily usage breakdown (UTC). Ви можете переглянути всю історію або відобразити результати за дату чи співробітника.

Визначте температуру

Оберіть показник температури від 0 до 2.

Температура — це параметр, який впливає на абстрактність відповідей. Наприклад, якщо ставити одне й те саме запитання, то вихідні дані будуть різні відповідно до обраної температури — абстрактні або більш точні. Вищі значення ближчі до 2, наприклад, 1,3, зроблять відповіді більш випадковими. Нижчі значення ближчі до 0, наприклад, 0.2, зроблять їх більш вичерпними, але однаковими за сенсом.

Встановіть обсяг контексту переписки

В полі Обсяг контексту переписки вкажіть, скільки останніх повідомлень підписника та бота додати в запит до ШІ як контекст переписки.

Встановіть обмеження спрацювань бота для підписника

Ви можете обмежити надмірні запити до бота ChatGPT. Це корисно у випадках, коли окремі підписники використовують велику кількість платних запитів.

Для цього в полі Обмеження спрацювання бота AI на один контакт (Limiting AI bot triggering to one contact) встановіть кількість запитів протягом інтервалу у днях, годинах або хвилинах.

За замовчуванням встановлено на 100 запитів на одного підписника щоденно.

Після того, як заповнили поля, натисніть Зберегти (Save) і можна переходити до тестування бота.

Читайте також: Як налаштувати голосове розпізнавання повідомлень в чат-ботах та Як додати генерацію зображень у чат-боті за допомогою інструментів OpenAI.

Особливості використання

При підключенні інтеграції з OpenAI у чат-боті відключається ланцюжок Стандартна відповідь. Тому потрібно додатково подбати про те, щоб користувач знав, що бот може йому відповісти. Наприклад, додайте інформацію про правила спілкування з ботом у вітальному або тригерному ланцюжку, який додайте в меню.

При використанні OpenAI у чат-ботах зверніть увагу, що AI використовує внутрішню бібліотеку інформації – він обробляє запит клієнта та видає результат у діалозі з клієнтом.

AI не має довгої пам'яті: при обробці запиту враховуються лише три останні повідомлення від користувача. Рекомендуємо переглядати діалоги з клієнтами в чатах, щоб коригувати вказівки для робота.

AI не інтегрується з додатковими програмами та не обробляє дані клієнта в аудиторії робота. Для цих функцій додайте меню або створіть команди для запуску тригерних ланцюжків, де ви додасте блоки Запит API, User input та Дія.

Також ви можете підключити бот до групи в Telegram, тоді вам будуть доступні такі можливості: бот буде відповідати у разі згадувань (через @) чи запуску команд (/command), для ключових слів, а також запитів до OpenAI, якщо увімкнена така інтеграція.

Приклади використання

Розглянемо різні приклади, які можна застосовувати до бота. Ви можете переглянути більше прикладів на сторінці Examples.

Наприклад, у вас бот для компанії та ви хочете навчити робота самостійно розвивати діалог і генерувати відповіді на питання по ваших товарах і роботі магазину.

Оновлено: 14.11.2024