Реальный потенциал генеративного Искусственного Интеллекта

Вы, наверное, уже слышали о больших языковых моделях, таких как ChatGPT, GPT3, GPT3.5 и других. Они могут отвечать на вопросы, писать истории и даже вести разговор. Но если вы хотите создать бизнес, который будет использовать эту технологию, вам нужно задать себе важные вопросы:

Это Раза Хабиб. Его компания Human Loop, позволяет большим языковым моделям обладать ещё большими способностями. "Мы можем помочь вам создавать дифференцированные приложения и продукты на основе этих моделей."

Диапазон возможных применений сейчас кажется более ограниченным воображением, чем техническими возможностями. Вы можете воссоздать свой собственный стиль письма, настроить тон, проверить факты ответов и обучить модель уникальным данным компании. Мы действительно надеемся, что это платформа, на основе которой следующий миллион разработчиков сможет создавать приложения LLM.

В нашем разговоре мы рассмотрим секреты создания приложения, которое выделяется на фоне других, то, что сделало его настолько хорошим, что миллион пользователей зарегистрировался в течение пяти дней. Было ли это упражнением по настройке? Как влияет генеративная ИИ на разработчиков? Они обнаруживают, что значительная часть их кода написана большой языковой моделью и что может принести обществу будущее больших языковых моделей.

Это этический потенциал. Проще говоря, что такое большая языковая модель? И почему они внезапно стали так популярны? Я предполагаю, что они существуют намного дольше, чем всего лишь год или два назад. Фактически, сами языковые модели являются старой технологией. Это статистическая модель слов английского языка. Вы берете большой кусок текста и пытаетесь предсказать, какое слово следует за несколькими предыдущими словами.

Если мышка сидела на коврике, то наиболее вероятно, что следующее слово - это «сыр». Затем у вас есть распределение по всем другим словам в вашем словаре. По мере того как вы масштабируете языковые модели как по количеству параметров, так и по объему обучающего набора, они продолжают становиться все лучше и лучше в этой задаче предсказания. В конечном итоге вам приходится начинать делать такие вещи, как иметь общее знание.

На самом деле, с самого начала языковая модель изучает частотность букв и слов, и это довольно прямолинейно, и мы привыкли к этому из предсказательного текста на наших телефонах. Но если языковая модель должна быть способна дополнить предложение: «Президент США сегодня», то ей нужно знать о президенте США, чтобы закончить предложение.

Это математическая проблема, которую она должна решить, и мы сейчас находимся на этом этапе. Я думаю, что начиная с GPT-1 и GPT-2, но затем GPT-3 действительно вызвала восторг у всех, когда мы сказали: «Хорошо, здесь что-то очень, очень разное». Теперь у нас есть эти языковые модели, которые просто модели слов, и они не знают ничего о внешнем мире.

Существует много дебатов о том, действительно ли они понимают язык, но они способны выполнять эту задачу крайне хорошо. И единственный способ это сделать - это стать лучше в различных формах выводов и знаний. Каковы некоторые проблемы использования предварительно обученной модели, например ChatGPT?

Одним из больших недостатков является то, что они склонны уверенно или галлюцинируют вещи, то есть то, что Мэтт Фридман описывает как чередующееся между зловещим и смешным. Иногда это настолько хорошо, что вы не можете поверить, что большая языковая модель смогла это сделать, а иногда это ужасно неправильно, и это связано с тем, как модель изначально обучена: они обучены делать экспертное предсказание, и поэтому они не обязательно знают, что не должны быть глупыми. Иногда они ошибаются, но опасность заключается в том, что они уверенно делают это неправильно и очень убедительно.

Таким образом, люди могут ошибочно доверять этим моделям, поэтому есть несколько способов, которые вы можете использовать, чтобы исправить это, и это открытый исследовательский вопрос. Но мы можем помочь вам в этом с помощью Human Loop, сделав очень легким использование фактического контекста для ввода, который вы даете модели, и поэтому модель более склонна использовать это, а не придумывать что-то свое.

Мы видели, что это очень успешный метод уменьшения галлюцинаций. Это также является элементом создания дифференцированной модели для вашего случая использования. Это здорово, это помогает ее сделать безопасной и надежной, верно? Я думаю, что когда ChatGPT только появилась, многие люди были разочарованы ее личностью, тон был не самым дружелюбным.

Тестовый набор и помощь разработчикам понимать, насколько хорошо мое приложение работает с конечными клиентами, - это следующее, что мы реально упрощаем. Наконец, индивидуализация. У всех есть доступ к одним и тем же базовым моделям, все могут использовать GPT3, но если вы хотите построить что-то отличное, вам нужно найти способ настроить модель на ваш случай использования, на конечных пользователей, на ваш контекст, и мы делаем это намного проще как через подгонку модели, так и через фреймворк для проведения экспериментов.

Мы можем помочь вам быстрее довести продукт до рынка, но что самое главное - мы можем помочь вам создать то, что ваши пользователи предпочитают базовым моделям. Это кажется довольно фундаментальным. Я имею ввиду, создание прототипов, первых версий, тестирование и оценка, а затем дифференциация. Это кажется довольно фундаментальным для создания чего-то великого. Я думаю, что это так. Мы действительно надеемся, что это платформа, на основе которой следующий миллион разработчиков может создавать приложения, и мы очень тесно сотрудничаем с некоторыми из первых компаний, которые понимали важность этого, понимали проблемы, которые они испытывали, и на основе этого сделали все возможное, чтобы создать то, что им нужно было.

Я думаю, что мы достигли той точки, когда мы видим, что это действительно решает острые проблемы для других людей, и нам не так важно, какую базовую языковую модель вы используете. Мы можем помочь вам с сбором обратной связи по данным, перенастройкой, прототипированием, и эти проблемы будут совершенно аналогичны для разных моделей, и наша главная цель - помочь вам достичь лучшего результата для вашего использования случая, и иногда это будет означать выбор другой модели. Хотел бы спросить, как изменится работа или роль разработчика в будущем из-за этой технологии, это интересно. Я об этом много думал.

Я думаю, что в ближайшей перспективе это дополнительные возможности для разработчиков. Вы можете делать то же самое, что могли раньше, только быстрее. На мой взгляд, наиболее впечатляющее приложение, которое мы видели с помощью большой языковой модели, это GitHub co-pilot. Я думаю, что они придумали действительно новый UX и поняли, как применять большую языковую модель таким образом, что ее используют более 100 миллионов разработчиков и многие люди, с которыми я говорю, говорят, что значительная часть их кода пишется большой языковой моделью. И я думаю, что если вы бы спросили людей два года назад, никто бы этого не писал. Один из вопросов, который меня повергает в удивление, это то, что люди, которые говорят мне, что они используют это больше всего, - это некоторые из людей, которых я считаю лучшими или более опытными разработчиками.

Вы могли подумать, что это инструмент, который помогает новичкам больше, но я думаю, что люди, которые более привыкли к редактированию и чтению кода, на самом деле получают больше пользы от завершения предложений. На короткой дистанции это просто ускоряет нас и позволяет делать больше. На долгосрочной перспективе можно представить, что разработчики станут больше похожи на менеджеров продукта в том смысле, что они пишут спецификацию, они пишут документацию, но большую часть мелких работ и работу по шаблону выполняют модели. Я не знаю, насколько это долгое время.

Горизонты.

Думается мне, есть очень мало работ, которые можно выполнять так много только на основе текста, мы просто довели это до крайности, у нас есть GitHub, и у вас есть удаленная работа. Инженеры могут выполнять большую часть своей работы, полностью сидя перед экраном компьютера, и поэтому, когда мы начнем двигаться в сторону того, что выглядит как AGI, я подозреваю, что разработчики на самом деле станут одной из первых работ, которые увидят, что большая часть их работы автоматизирована, что кажется совершенно контринтуитивным, но предсказать будущее трудно, так что да, что вы думаете, какие будут следующие прорывы в технологии LLM?

Я думаю, что здесь дорожная карта достаточно хорошо известна, почти как. Я думаю, что вот что приходит, мы знаем, что это придумали, и мы просто должны подождать, чтобы это достичь. Одна вещь, которая, на мой взгляд, будет действительно важна для разработчиков, это контекстное окно. В настоящее время при использовании этих моделей у вас есть ограничение, насколько много информации вы можете передать ей каждый раз, и расширение этого контекстного окна добавит гораздо больше возможностей. Одну вещь, на которую я действительно взволнован, это дополнение больших языковых моделей возможностью выполнять действия, и мы видели несколько примеров этого, это стартап под названием Adept. AI, который это делает, и еще несколько, где вы в основном позволяет большой языковой модели решать некоторые задачи, поэтому она может выдавать строку, которая говорит, что вы ищете в интернете эту вещь.

Ты спрашиваешь меня, строю ли я свою компанию таким образом, чтобы это, очевидно, имело смысл в этом мире. Я стараюсь, но есть трудности в интуитивном понимании этого. Стюарт Рассел утверждает, что если бы он сказал, что инопланетная цивилизация приземлится на Землю через 50 лет, ты бы ничего не сделал. Есть вероятность, что мы скоро столкнемся с чем-то вроде инопланетного пришествия. Ну что ж, давай я тебя спрошу: что новое технология означает для стартапов? О Боже, это невероятно волнующе, но очень сложно описать словами.

Раньше необходимо было иметь исследовательскую команду для анализа вещей, которые казались невозможными, а сейчас модели могут их создавать без проблем, независимо от того, решаешь ли ты проблему чат-бота, который может понимать контекст, или решаешь задачи на уровне, которые ранее казались невозможными. Диапазон использования возможностей теперь ограничен креативностью, а не технологиями. По мере того, как происходят изменения в технологиях, открываются новые возможности для создания новых приложений, и мы уже видим подобные стартапы в рамках программы YC.

У нас в Human Loop поступает много запросов от компаний, которые находятся на начальной стадии исследований и пытаются понять, как превратить эту "сырую" модель и "сырой" искусственный интеллект в дифференциальный продукт. Мы ищем AI-инженеров или желающих ими стать, которые заинтересованы в работе в Human Loop. Так же, мы набираем специалистов различных профессий, которые готовы преодолеть сложности и работать над новыми проектами.

Мы очень заботимся об опыте конечного пользователя, работаем с интересными стартапами в индустрии искусственного интеллекта, которые находятся на самом переднем крае инноваций. Если это звучит для Вас интересно, то это будет новым опытом для Вас и труд будет вознагражден. В будущем миллионы разработчиков будут использовать ваши инструменты для создания прекрасных приложений с помощью технологии AI. Желаю удачи и спасибо за ваше время.

=========================================

Сложно поверить, но данный материал был написан ИИ, по мотиву видео на английском языке The REAL potential of generative AI, с помощью нашей новой разработки, проектом SummarizeAI .

SummarizeAI (Video to article или видео в статью) — это автоматизированный генератор уникальных статей на основе заданного видео, основанный на глубоком искусственном интеллекте.

Подробности в ближайшее время.

Контакт для связи: https://t.me/Uberwow