Microsoft разрабатывает собственную большую языковую модель, независимо от OpenAI

Принято считать, что крупнейшим стратегическим инвестором в капитал OpenAI является корпорация Microsoft, которая потратила на поддержку этого стартапа, создавшего ChatGPT, более $10 млрд. Как сообщает The Information, это не мешает Microsoft финансировать разработку собственной большой языковой модели MAI-1, которая по своей сложности хоть и не догонит ChatGPT-4, но хотя бы обойдёт некоторых конкурентов.

microsoft_01.jpg

Источник изображения: Adobe Stock

Сообщается, что к разработке MAI-1 могут привлекаться специалисты стартапа Inflection, который Microsoft поглотила в марте, заплатив за права на использование его интеллектуальной собственности $650 млн. По крайней мере, руководить созданием MAI-1 в Microsoft будет Мустафа Сулейман (Mustafa Suleyman), который не только возглавлял Inflection, но и имеет опыт работы в Google. При этом уже готовые языковые модели Inflection компанией Microsoft использоваться не будут, MAI-1 должна быть создана буквально с чистого листа.

Эта большая языковая модель будет насчитывать почти 500 млрд параметров. Если учесть, что мощнейшая ChatGPT-4 использует 1 трлн параметров, то отставание Microsoft от OpenAI по меркам отрасли хоть и будет заметным, но не таким серьёзным, как у некоторых более мелких стартапов. Для каких целей будет использоваться языковая модель MAI-1, пока не решено.

overclockers.ru прочитано 3074 раза