ChatGPT - Generative Pre-trained Transformer генеративний попередньо навчений трансформер
Documentation //platform.openai.com/docs
API reference //platform.openai.com
Pricing: Simple and flexible. Only pay for what you use //openai.com/pricing
Спіймати робота: сервіси для перевірки текстів на штучний інтелект //wordfactory.ua
Программный интерфейс приложений от OpenAI позволяет приложениям выполнять сетевые запросы к нейро-моделям OpenAI, таким как gpt для обработки текста, DALL·E для создания изображений, whisper-1 для анализа аудио и другим.
Моделі
На текущий момент OpenAI реализовала несколько десятков автономных алгоритмов, которые называют Моделями. Они создавались для различных задач и существенно отличаются по возможностями и стоимости использования. Часть моделей уже устарела, но продолжает оставаться доступной.
Актуальные модели и наборы моделей:
- GPT-3 набор chat-моделей, которые могут понимать и генерировать тексты на естественных языка и языках программирования
- GPT-3.5 набор chat-моделей, более развитых, чем GPT-3
- GPT-4 набор chat-моделей, более развитых, чем GPT-3.5
- DALL·E модель для генерации и редактировать изображения на основе текстовой подсказки на естественном языке
- Whisper модель для конвертирования аудио в текст
- Embeddings !!!Набор моделей, которые могут преобразовывать текст в числовую форму
- Moderation Точно настроенная модель, которая может определять, может ли текст быть конфиденциальным или небезопасным
API реализует универсальный доступ ко всем моделям, которые функционируют, при этом способ взаимодействия с каждой моделью может иметь особенности.
Ціна запитання
Автореференция от GPT-3:
|
1 2 3 4 5 6 7 8 9 |
GPT-4 представляет собой модель глубокого обучения, которая может использоваться для генерации текста на основе заданных примеров. Платный доступ к GPT-4 предусматривает две модели: 8K и 32K, и два режима: Prompt и Completion. Модель 8K означает, что в ней содержится 8 миллиардов параметров, что делает ее более мощной и точной по сравнению с предыдущими версиями GPT. Модель 32K, соответственно, содержит 32 миллиарда параметров и является еще более мощной и точной. Режим Prompt используется для генерации текста на основе заданных пользователем примеров. В этом режиме модель ожидает некоторый текст в качестве входных данных, который будет использоваться для формирования ответа. Таким образом, пользователь может контролировать содержание сгенерированного текста, внося свои собственные идеи и предпочтения. Режим Completion используется для генерации продолжения текста, начатого пользователем. В этом режиме модель ожидает начальный текст, который затем будет продолжен ей автоматически. Этот режим может быть полезен для автоматического дополнения текста, например, для автозаполнения поисковых запросов, ответов на электронные письма и т.д. Таким образом, разница между режимом Prompt и Completion заключается в том, что в первом случае пользователь задает начальный текст, который будет использован для формирования ответа, а во втором случае пользователь задает только начальный текст, а модель автоматически дополняет его. |
//
| Model | Input/Prompt | Output/Completion |
| gpt-3.5-turbo 4K эта модель доступна в чате GhatGPT бесплатном для личного использования |
$0.0015 / 1K tokens | $0.002 / 1K tokens |
| gpt-3.5-turbo 16K | $0.003 / 1K tokens | $0.004 / 1K tokens |
| gpt-4 8K context | $0.03 / 1K tokens | $0.06 / 1K tokens |
| gpt-4 32K context | $0.06 / 1K tokens | $0.12 / 1K tokens |
1K tokens
Об используемой единице измерения задачи "1K tokens" на сайте OpenAI сказано следующее:
Multiple models, each with different capabilities and price points. Prices are per 1,000 tokens. You can think of tokens as pieces of words, where 1,000 tokens is about 750 words. This paragraph is 35 tokens.
Приблизительно 1K tokens соответствует машинописной странице
FAQ: Включен ли ChatGPT API в подписку ChatGPT Plus?
|
1 |
Нет, ChatGPT API и подписка ChatGPT Plus оплачиваются отдельно. API имеет свои собственные цены, которые можно найти по адресу https://openai.com/pricing. Подписка ChatGPT Plus покрывает использование только сайтаchat.openai.com и стоит 20 долларов США в месяц. |
OpenAI API
Transforming work and creativity with AI //openai.com/product
Страница регистрации и авторизации для доступа к API Get started //platform.openai.com/signup
- Documentation //platform.openai.com/docs/introduction
- API reference //platform.openai.com/docs/api-reference/introduction
- Examples //platform.openai.com/examples
Учетная запись
Возможность использовать API предоставляется в настройках учетной записи пользователя по ссылке //platform.openai.com/account/
Настройка организации /org-settings
Каждая учетная запись представляет собой организацию, имя которой в разделе Settings задается в Organization name (по умолчанию установлено в "Personal").
Организация идентифицируется уникальным значением Organization ID.
Использование API выполняется учетными записями, но учет квот и лимитов ведется по организациям. В простых случаях в этом нет разницы, но она возникает в более сложных системах.
Лимиты /rate-limits
Интенсивность запросов к API измеряется тремя показателями, на которые распространяются ограничения, зависящие от биллинга:
- TPM (tokens-per-minute): 40000 для Free Trial
- RPM (requests-per-minute): 3 для Free Trial
- RPD (requests-per-day): 200 для Free Trial
Участники /members
Квоты и лимиты организации могут использоваться другими учетными записями. Для этого в разделе Members такие учетные записи должны быть внесены в список участников, а в запросе следует использовать параметр Organization ID.
Ключи /api-keys
Секретный ключ - это случайный Base36 код длиной 51 символ. Код ключа аутентично ассоциирует запрос к API с учетной записью, поэтому во избежание неаутентичных запросов ключ необходимо держать в секрете.
Учетная запись может использовать несколько ключей, которые создаются и удаляются в разделе API keys. Ключу можно задать имя при создании или изменить поздней.
В момент создания нового секретного ключа генерируется его случайный код, который для использования необходимо скопировать, т.к. второй возможности для этого не будет.
Методы API
Все доступные методы описаны в официальном API reference //platform.openai.com/docs/api-reference
Запрос к методу API выполняется по url, который состоит из нескольких возможных частей:
- https://api.openai.com/v1/ постоянная часть для обращения к API (версии 1)
- method имя метода (может состоять из двух частей)
- /params (необязательно) параметры предусмотренные методом
Большинство методов параметризованные, поэтому их следует выполнять запросом POST, помещая параметры в содержание запроса.
Не параметризованные методы необходимо выполнять запросом GET, в противном случае API возвращает ошибку 405: Not allowed to POST on /v1/models. (HINT: Perhaps you meant to use a different HTTP method?).
Метод списка моделей /models
Доступные в API текущее время модели и основную информацию о каждой из них, такую как владелец и доступность можно получить методом models
GET https://api.openai.com/v1/models
GET https://api.openai.com/v1/models/{model}
Завершения Completions
Получив подсказку, модель вернет одно или несколько предсказанных завершений, а также может вернуть вероятности альтернативных токенов в каждой позиции.
POST https://api.openai.com/v1/completions
Чат Chat
Получив список сообщений, описывающих разговор, модель вернет ответ.
POST https://api.openai.com/v1/chat/completions
Правка Edits
Изображения /Images Beta
Вложения Embeddings
Аудио Audio
и другие...
|
1 2 3 4 5 6 7 8 9 |
curl https://api.openai.com/v1/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -d '{ "model": "text-davinci-003", "prompt": "Say this is a test", "max_tokens": 7, "temperature": 0 }' |
Помилки
Если запрос к API не был успешным на уровне client error, то код ответа будет 4xx, а в содержании ответа будет json-объект вида:
|
1 2 3 4 5 6 7 8 |
{ "error": { "message": "You exceeded your current quota, please check your plan and billing details.", "type": "insufficient_quota", "param": null, "code": "insufficient_quota" } } |
Ошибки
- 405: Not allowed to POST on /v1/models. (HINT: Perhaps you meant to use a different HTTP method?)
- 429/insufficient_quota: You exceeded your current quota, please check your plan and billing details
Приклади
PHP
Пример выполнения простейшего GET запроса метода models:
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
$handle = curl_init( 'https://api.openai.com/v1/models' ); curl_setopt( $handle, CURLOPT_HTTPHEADER, array( 'Content-Type: application/json', 'Authorization: Bearer ' . OPENAI_KEY )); curl_setopt( $handle, CURLOPT_CONNECTTIMEOUT, 5 ); curl_setopt( $handle, CURLOPT_TIMEOUT, 60 ); curl_setopt( $handle, CURLOPT_RETURNTRANSFER, true ); $response = curl_exec( $handle ); if( $response !== false) { $http_code = intval( curl_getinfo( $handle, CURLINFO_HTTP_CODE )); if( $http_code === 200 ) { $openai_response = json_decode( $response, true ); } } |
Пример упрощенного выполнения POST запроса по квоте организации метода chat/completions с параметрами:
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 |
$handle = curl_init( 'https://api.openai.com/v1/chat/completions' ); curl_setopt( $handle, CURLOPT_HTTPHEADER, array( 'Content-Type: application/json', 'Authorization: Bearer ' . OPENAI_KEY, 'OpenAI-Organization: ' . OPENAI_ORGID )); curl_setopt( $handle, CURLOPT_CONNECTTIMEOUT, 5 ); curl_setopt( $handle, CURLOPT_TIMEOUT, 60 ); curl_setopt( $handle, CURLOPT_RETURNTRANSFER, true ); curl_setopt( $handle, CURLOPT_POST, true ); curl_setopt( $handle, CURLOPT_POSTFIELDS, json_encode( array( 'model' => 'gpt-3.5-turbo', 'messages' => array( array( 'role' => 'system', 'content' => 'You are a helpful assistant.'), array( 'role' => 'user', 'content' => 'Hello!' ))))); $response = curl_exec( $handle ); if( $response !== false) { $http_code = intval( curl_getinfo( $handle, CURLINFO_HTTP_CODE )); if( $http_code === 200 ) { $openai_response = json_decode( $response, true ); } } |
Джерела
//
Запуск аналогов ChatGPT на домашнем ПК в пару кликов и с интерфейсом ligofff@habr.com (11 Apr 2023)
Alex Krol: Плагины подъехали, посмотрел все - пока это игрушки и поделки. Некоторые не грузятся. Нет, как витрина плагинов это так себе. Но за то есть возможность слепить свой плагин. 
Кого разные комьюнити интересовали - вот основные:
https://community.openai.com/ - это сообщество прямо при OpenAI
Группа FB: - https://www.facebook.com/groups/chatgpt/ - 55 тыщщ народу
https://platform.openai.com/playground - ну это понятно
https://sharegpt.com/ - хороший ресурс, которые позволяет делиться вашими диалогами с chatGPT -это просто расширение в Chrome. Удобно, если вы чего-то интересного добились с помощью chatGPT, и хотите поделиться с кем-то всем диалогом, а не копипастить руками.
https://huggingface.co/bigcode/starcoder - Для тех, кто хочет в код, ребята из Hugging face выкатили большую модель специально для кодинга - StarCoder , причем, как они заявляют, качество лучше, чем у chatGPT, поддерживает до 80 языков программирования, можно скачать и установить локально, интеграция с VS Code. Линк на GH.
ChatGPT Prompts Community - https://datafit.ai/
ChatGPT Prompt Genius - https://bit.ly/42zp5WD
Еще одно большое коммунити, где народ делиться промптами и вот это все: https://www.skool.com/chatgpt