Reflection AI вышел из режима скрытности и присоединился к Safe Superintelligence (SSI) в прямом стремлении к созданию сверхразумных систем AI, что ознаменовало собой отход от более коммерчески ориентированной разработки AI. Reflection AI нацелен на создание сверхразумных автономных систем, согласно веб-сайту компании. Недавно представленный стартап полагает, что решение проблемы автономного программирования представляет собой ключ к достижению общего сверхразума.
Их теория предполагает, что как только система освоит автономное программирование, за ней естественным образом последует прогресс во всех других компьютерных задачах. Компания объединяет обучение с подкреплением с большими языковыми моделями, работая над тем, чтобы дать LLM тот же уровень автономии, который AlphaGo продемонстрировал в игре Го.
Стартап привносит значительный опыт в эту задачу. За последнее десятилетие члены команды помогли разработать некоторые из самых передовых систем AI, включая AlphaGo, AlphaZero и GPT-4.
Reflection AI присоединяется к Safe Superintelligence (SSI), основанной бывшим главным исследователем OpenAI Ильей Суцкевером, в целях прямого поиска сверхразума. Сообщается, что SSI ведет переговоры о финансировании, которое оценит компанию в размере до 30 миллиардов долларов, несмотря на отсутствие краткосрочных перспектив доходов.
Bloomberg сообщает, что Reflection AI уже получила $130 млн финансирования при оценке в $555 млн. Среди инвесторов — Рид Хоффман, генеральный директор Scale AI Александр Ванг, SV Angel и венчурное подразделение Nvidia.
Обе компании используют необычный подход, сосредоточившись непосредственно на суперинтеллекте, а не на разработке коммерческих продуктов в первую очередь. Эта стратегия, по-видимому, соответствует видению Суцкевера — он покинул OpenAI в мае 2024 года, как сообщается, из-за растущего внимания компании к коммерческим интересам.
Тем временем OpenAI изменила свои публичные сообщения. Теперь компания меньше говорит о сверхинтеллекте и начала дистанцироваться от искусственного интеллекта общего назначения (AGI). Хотя AGI остается заявленной целью OpenAI, теперь компания описывает его как постепенную эволюцию, а не как конкретную веху, которую необходимо достичь.
Этот сдвиг отражает более широкую тенденцию отрасли. Anthropic отошла от термина AGI в пользу «мощного ИИ». Обе компании сосредоточены на том, что в отрасли называют «моделями рассуждений», последней парадигме масштабирования, которая также в значительной степени опирается на обучение с подкреплением. Этот подход показал особую перспективность в математике и кодировании, где четкие правильные и неправильные ответы делают обучение с подкреплением особенно эффективным.
Business Insider сообщает, что Thinking Machines Lab, новое предприятие бывшего технического директора OpenAI Миры Мурати, ведет переговоры о привлечении $1 млрд при оценке в $9 млрд. Потенциальная сделка подчеркивает растущую тенденцию в финансировании AI: стартапы на ранних стадиях, особенно основанные выпускниками OpenAI, все чаще выходят напрямую на территорию единорогов.
В отличие от Reflection AI и SSI, Thinking Machines Lab избегает обсуждения суперинтеллекта или AGI в своем объявлении. Вместо этого компания делает акцент на научном сотрудничестве, сотрудничестве человека и AI, адаптивных системах AI и эмпирическом, итеративном подходе к безопасности AI. Компания планирует публиковать технические записи в блогах, статьи и код для улучшения понимания AI общественностью.
Источник
