Разработчики ChatGPT достигли прогресса в разработке Q-Star
"Разработчики ChatGPT достигли прогресса в разработке Q* (произносится как Q-Star), которая, по мнению некоторых специалистов, может стать прорывом в поисках сверхразума, известного также как искусственный интеллект общего назначения (AGI), сообщил один из собеседников Reuters. OpenAI определяет AGI как системы искусственного интеллекта, которые умнее человека.
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сказал собеседник на условиях анонимности, поскольку не имел права говорить от имени компании. По словам собеседника, несмотря на то, что по математике эта модель находится на уровне учеников начальной школы, ее успешное прохождение таких тестов вселяет в исследователей оптимизм в отношении будущих успехов Q*".
https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/
"The maker of ChatGPT had made progress on Q* (pronounced Q-Star), which some internally believe could be a breakthrough in the startup's search for superintelligence, also known as artificial general intelligence (AGI), one of the people told Reuters. OpenAI defines AGI as AI systems that are smarter than humans.
Given vast computing resources, the new model was able to solve certain mathematical problems, the person said on condition of anonymity because they were not authorized to speak on behalf of the company. Though only performing math on the level of grade-school students, acing such tests made researchers very optimistic about Q*’s future success, the source said."
Исследователи считают математику одним из рубежей развития генеративного ИИ. В настоящее время генеративный ИИ хорошо справляется с написанием текста и переводом языка, статистически предсказывая следующее слово, при этом ответы на один и тот же вопрос могут сильно различаться. Но покорение способности к математике, где существует только один правильный ответ, предполагает, что ИИ будет обладать более широкими возможностями рассуждения, напоминающими человеческий интеллект. Это может быть использовано, например, для новых научных исследований, считают исследователи ИИ.
В отличие от калькулятора, который может решать ограниченное число операций, ИИ способен обобщать, учиться и понимать. По словам источников, в своем письме в совет исследователи отмечают как возможности ИИ, так и его потенциальную опасность, не уточняя, какие именно опасения были высказаны в письме. Среди ученых-компьютерщиков давно ведутся дискуссии об опасности, которую представляют собой высокоинтеллектуальные машины, например, могут ли они решить, что уничтожение человечества отвечает их интересам.
Исследователи также отмечали работу группы "AI scientist", существование которой подтвердили несколько источников. По словам одного из собеседников, эта группа, образованная путем объединения ранее созданных групп "Code Gen" и "Math Gen", занималась изучением возможностей оптимизации существующих моделей ИИ для улучшения их рассуждений и, в конечном счете, выполнения научной работы.
Альтман возглавил работу по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлек инвестиции - и вычислительные ресурсы - необходимые Microsoft для приближения к AGI.
Помимо того, что в этом месяце Альтман объявил о множестве новых инструментов в ходе демонстрации, на прошлой неделе на саммите мировых лидеров в Сан-Франциско он заявил, что, по его мнению, не за горами значительные успехи.
"За всю историю OpenAI мне уже четыре раза (последний раз - буквально в последние пару недель) доводилось присутствовать в комнате, когда мы как бы отодвигали завесу невежества и продвигали вперед границы открытий, и возможность сделать это - профессиональная честь всей жизни", - сказал он на саммите Азиатско-Тихоокеанского экономического сотрудничества.