Почему Марк Цукерберг заставляет Meta раздавать свои самые передовые модели искусственного интеллекта

Рубрики:

Объяснение дебатов об искусственном интеллекте, раскалывающих мир технологий.

На прошлой неделе Meta сделала революционный шаг в мире искусственного интеллекта.

В то время как другие ведущие компании в области искусственного интеллекта, такие как Google и OpenAI, тщательно охраняют свой секретный соус, Meta решила бесплатно раздать код, который лежит в основе ее новой инновационной модели большого языка искусственного интеллекта, Llama 2. Это означает, что другие компании теперь могут использовать Модель Llama 2 от Meta, которая, по мнению некоторых технологов, по своим возможностям сравнима с ChatGPT, позволяет создавать собственные настраиваемые чат-боты.

Llama 2 может бросить вызов ChatGPT, который побил рекорды как одно из самых быстрорастущих приложений всех времен. Но что еще более важно, его природа с открытым исходным кодом придает новую актуальность важным этическим дебатам о том, кто должен контролировать ИИ — и можно ли сделать его безопасным.

Поскольку ИИ становится более продвинутым и потенциально более опасным, будет ли лучше для общества, если код будет храниться в тайне (только для сотрудников небольшого числа компаний) или же он должен быть доступен общественности, чтобы более широкая группа людей могла иметь доступ к нему? участие в формировании преобразующей технологии?

В анонсе Meta Llama 2 Марк Цукерберг разместил в Instagram свою улыбающуюся фотографию с генеральным директором Microsoft Сатьей Наделлой, объявляя о партнерстве двух компаний в выпуске. Цукерберг также обосновал, почему ведущим моделям ИИ лучше иметь «открытый исходный код», что означает, что базовый код технологии должен быть широко доступен для использования каждым.

«Открытый исходный код стимулирует инновации, потому что он позволяет гораздо большему числу разработчиков создавать новые технологии», — написал Цукерберг в отдельном сообщении на Facebook. «Это также повышает безопасность и защищенность, поскольку, когда программное обеспечение открыто, больше людей могут изучить его, чтобы выявить и устранить потенциальные проблемы».

Этот шаг приветствуют многие разработчики искусственного интеллекта, исследователи и ученые, которые говорят, что это даст им беспрецедентный доступ к созданию новых инструментов или систем обучения, создание которых в противном случае было бы непомерно дорогим. Создание и обслуживание передовых больших языковых моделей, подобных тем, которые лежат в основе ChatGPT, может стоить десятки миллионов долларов.

«Я просто готовлюсь к тому, какой прогресс может произойти», — сказала Назнин Раджани, руководитель исследований платформы искусственного интеллекта с открытым исходным кодом Hugging Face, которая сотрудничала с Meta при выпуске. Раджани написал в Твиттере пост, оценивающий возможности Llama 2, когда он впервые появился, и сказал Vox: «Мы сможем раскрыть больше секретных ингредиентов о том, что на самом деле нужно для создания модели, подобной GPT-4».

Но открытый исходный код ИИ сопряжен с серьезными рисками. Некоторые из крупнейших игроков в этой области, в том числе поддерживаемые Microsoft OpenAI и Google, ограничивают доступность своих систем искусственного интеллекта из-за того, что они называют серьезной опасностью этих технологий.

Некоторые технологи все больше беспокоятся о гипотетических сценариях конца света, в которых ИИ сможет перехитрить людей и причинить вред, например, выпустить биологическое супероружие или вызвать другой хаос способами, которые мы не можем себе представить. Соучредитель OpenAI Илья Суцкевер рассказал The Verge в феврале, что его компания «совершенно ошибалась», когда в прошлом более открыто делилась подробностями о своих моделях, потому что, если однажды ИИ станет таким же умным, как люди, достигнув того, что некоторые называют AGI или общий искусственный интеллект, было бы неразумно делиться этим с массами.

«Если вы верите, как и мы, что в какой-то момент ИИ — AGI — станет чрезвычайно, невероятно мощным, тогда просто нет смысла открывать исходный код. Это плохая идея», — сказал тогда Суцкевер.

Хотя мы, возможно, далеки от ИИ, способного вызвать настоящие человеческие разрушения, мы уже видели, как инструменты ИИ от сообщества с открытым исходным кодом используются не по назначению. Например, вскоре после того, как Meta выпустила свою первую модель Llama исключительно для исследовательского использования в феврале, она просочилась на онлайн-доску объявлений 4Chan, где она затем использовалась для создания чат-ботов, которые извергали ненавистнический контент, такой как расовые оскорбления и, в некоторых случаях, , сцены графического насилия.