OpenAI открывают доступ к ChatGPT по API. Какие возможности это даёт?

1 марта OpenAI открыли доступ к API своего ИИ чатбота ChatGPT и модели распознавания речи Whisper. Модель API ChatGPT называется "gpt-3.5-turbo". Теперь разработчики могут использовать нашу модель Whisper big-v2 с открытым исходным кодом в API с гораздо более быстрыми и экономически эффективными результатами.

Любой разработчик, имея API ключ, может добавить логику взаимодействия с чатботом в своё приложение, буквально в несколько строчек кода:

Для запроса в модель нужно указывать не только текст для продолжения, но и дополнительные параметры - их перечень сведён в Chat Markup Language. В частности, предполагаются "роли", так как модель была заточена под диалог - есть AI-ассистент, который пишет ответы, и есть "человек", пишущий сообщения с вашей стороны.

Пользователи API ChatGPT могут рассчитывать на постоянное улучшение моделей и возможность выбора выделенных мощностей для более глубокого контроля над моделями.

Теперь данные клиентов не будут использоваться для дообучения моделей в будущем! Но это не точно.

Инженеры OpenAI также рассказали, что с декабря 22г. достигли снижения трат на 90%, используя различные оптимизации. Стоимость обработки запросов получилась в 10 раз ниже самой мощной GPT-3.5 davinci, которая была доступна до этого. Возможно для достижения такой оптимизации пришлось уменьшить число параметров в модели. Впрочем на качестве её ответов это не сильно отразилось. Чатбот всё так же работает очень хорошо.

OpenAI также объявили об интеграциях со Span, Shop, Quizlet, Instacart.

Snap, создатели Snapchat, на этой неделе представили функцию My AI для Snapchat+. Экспериментальная функция работает на API ChatGPT. My AI предлагает пользователям Snapchat дружелюбный, настраиваемый ИИ чат-бот, который предлагает рекомендации и даже может написать хайку для друзей за считанные секунды. У Snapchat, где общение и обмен сообщениями является повседневным поведением, 750 миллионов ежемесячных пользователей.

Instacart позволить покупателям задавать вопросы о еде («Как приготовить рыбные тако?» или «Предложи здоровый обед для моих детей») и получать вдохновляющие ответы, содержащие ссылки на товары, которые можно купить в один клик. Пока из того что видел - первая подобная интеграция, некоторого рода "продукт-плейсмент". Вижу применение этого и в поисковых чатботах - когда в выдачу подмешиваются ссылки, за которые заплатили.

Quizlet - это глобальная платформа для обучения, которую используют более 60 миллионов студентов для изучения, практики и освоения того, что они изучают. Quizlet сотрудничает с OpenAI в течение последних трех лет, используя GPT-3 во многих случаях, включая изучение лексики и практические тесты. С запуском ChatGPT API, Quizlet представляет Q-Chat, полностью адаптивный ИИ-репетитор, который привлекает студентов с адаптивными вопросами, основанными на соответствующих учебных материалах, предоставляемых через забавный чат.

Мы, в ruChatGPT, тоже будем использовать новую модель вместо предыдущей модели "text-davinci-003".