Информационные технологииStfw.Ru 🔍
🕛

Google захлебнулась в спросе на ИИ: даже исследователи DeepMind стоят в очереди за TPU

TechSpot В гонке за создание инфраструктуры, которая обеспечивает работу искусственного интеллекта, Google занимает завидное положение: компания ..., TechSpot В гонке за создание инфраструктуры,
Google захлебнулась в спросе на ИИ: даже исследователи DeepMind стоят в очереди за TPU


TechSpot
В гонке за создание инфраструктуры, которая обеспечивает работу искусственного интеллекта, Google занимает завидное положение: компания имеет процветающий бизнес облачных вычислений, производит собственные чипы и заключила соглашения о совместном использовании с такими компаниями, как Anthropic и Meta. Однако успех компании сделал её вычислительные ресурсы настолько ценными, что собственным исследователям ИИ приходится вставать в очередь.
В лаборатории искусственного интеллекта Google DeepMind доступ к вычислительным мощностям влияет на проекты, которые реализуют исследователи, на лидеров, с которыми они сотрудничают, и на темп работы. «Внутри Google на каждый TPU есть [как минимум] три претендента, — говорит опытный исследователь в области ИИ, почётный профессор Вашингтонского университета Орен Этциони (Oren Etzioni). — Если вы оказались в неудобном положении, когда у вас есть несбыточный проект, и вы конкурируете с прибыльным клиентом, это очень сложная ситуация».

Google заявляет, что использует «строгий, непрерывный процесс, который гарантирует, что наши вычислительные ресурсы распределяются по наиболее важным приоритетам, балансируя сегодняшние потребности клиентов и пользователей с долгосрочными инвестициями в развитие исследований и инноваций». Генеральный директор Alphabet Сундар Пичаи (Sundar Pichai) утверждает, что при принятии решения о том, куда направить вычислительные мощности, руководители компании сосредоточены на обеспечении Google DeepMind необходимыми ресурсами для создания передовых моделей ИИ, «потому что это основа всего, что мы делаем».

Google захлебнулась в спросе на ИИ: даже исследователи DeepMind стоят в очереди за TPU


Источник изображений: Google

Исследователи ИИ когда-то считали Google местом, где они могли свободно заниматься своими интеллектуальными увлечениями, почти как в академической среде, но с лучшей оплатой и большими ресурсами. Однако в 2022 году запуск ChatGPT побудил Google инвестировать в большие языковые модели, которые создают компьютерный код, что, как показали конкуренты, может стать успешным продуктом и приносить существенный доход.
Это снизило инвестиции в экспериментальные проекты, которые не могут принести сиюминутного дохода, и заставило многих ИИ-специалистов задуматься об основании собственных стартапов. Портфель заказов Google Cloud почти удвоился по сравнению с предыдущим кварталом и превысил $460 млрд. «В краткосрочной перспективе мы испытываем нехватку вычислительных мощностей, — признал Пичаи. — Мы преодолеваем этот момент и инвестируем».
Чтобы наверстать упущенное в гонке ИИ, Google в 2023 году объединила лондонскую лабораторию DeepMind, имевшую более иерархическую структуру, и Google ain, где исследователи занимались персональными проектами с минимальным контролем. Исследователи в ain получали кредиты на покупку чипов во внутренней системе, где цена колебалась в зависимости от спроса, подобно фондовому рынку. По словам Голди, «это был мощный способ сплотиться и добиться результата».
Google захлебнулась в спросе на ИИ: даже исследователи DeepMind стоят в очереди за TPU

В ведущих лабораториях ИИ некоторые исследователи вынуждены работать над приоритетными языковыми моделями, даже если их истинные интересы лежат в другой области. «Есть приманка в виде вычислительных мощностей, продвижения и, в целом, участия в триумфальном процессе обучения, — говорит бывший исследователь Google Том Макграт (Tom McGrath). — Есть и кнут: если вы этого не сделаете, у вас не будет никаких ускорителей».
Доступ к вычислительным мощностям для многих учёных стал главным аргументом. По словам бывшей сотрудницы DeepMind Анны Голди (Anna Goldie), компания предлагала ей больше вычислительных мощностей, чтобы отговорить от ухода, но она всё равно ушла, основав компанию Ricursive Intelligence, которая уже привлекла $335 млн инвестиций. Голди «была приятно удивлена» тем, сколько вычислительных мощностей ей удалось найти за пределами компании. «Мне не нужно спрашивать разрешения у десяти вышестоящих руководителей, — заявила она. — Я могу просто принять решение […], чтобы сделать то, что лучше для компании. Я могу прислушиваться к своим сотрудникам и их идеям».
«Игра в искусственный интеллект всегда имела два аспекта, — считает бывший исследователь Google DeepMind Иоаннис Антоноглу (Ioannis Antonoglou). — Первый — у кого больше вычислительных мощностей. А второй — кто сможет использовать их лучше».

Также по теме:
Stfw.Ru
Главные новости искусственного интеллекта: новые нейросети, ChatGPT и аналоги, машинное обучение, роботы, внедрение ИИ в бизнес и этические скандалы.