LLaMA от Meta просочилась в открытый доступ благодаря 4chan
Послушайте эту историю |
LLaMA, новейшее семейство больших языковых моделей Meta, просочилось вместе с его весами и теперь доступно для скачивания через торренты. Кристофер Кинг, пользователь GitHub, отправил на страницу LLaMA GitHub запрос на вытягивание, который содержал торрент-ссылку на открытую модель.
Meta ранее выпускала LLaMA для публики в каждом конкретном случае, чтобы предотвратить неправильное использование. С выпуском этого торрента модель открыта для всех в Интернете.
Утечка Следуя по следу хлебных крошек, кажется, что Интернет должен благодарить 4chan за эту утечку. Около 21:45 по восточному стандартному времени в четверг пользователь llamanon разместил на доске технологий 4chan сообщение о выпуске моделей LLaMA 7B и 65B через торрент. Модель была опубликована в мегапотоке AI Chatbot General — центральном месте 4chan для тестирования ролевых возможностей новейших чат-ботов с искусственным интеллектом.
Затем эта ссылка на торрент была добавлена в качестве запроса на включение на страницу LLaMA GitHub под заголовком «Экономьте пропускную способность, используя торрент для более эффективного распространения». Этот запрос на вытягивание был опубликован вместе со ссылкой на Google Forms, которую Мета использовала для предоставления доступа к боту, что, по-видимому, является копьем процесса подачи заявки на LLM. В проект также был отправлен второй запрос на включение, который предоставил торрент-ссылку на альтернативный набор весов для модели.
Тем не менее, одна из самых больших ошибок, допущенных утечкой, заключалась в том, что он включил свой уникальный код идентификатора в утечку модели. Этот код был реализован специально для отслеживания утечек, подвергая риску личные данные пользователя llamanon. Тем не менее, похоже, что Meta не предприняла никаких действий за последние несколько дней, поскольку торрент по-прежнему доступен и доступен для скачивания.
Загрузите наше мобильное приложение
Несмотря на это, эта утечка была положительно воспринята пользователями 4chan, и вскоре о ней узнала остальная часть Интернета.
Теперь, когда модель вышла из-под контроля нескольких избранных исследователей Meta, пришло время всему сообществу ИИ расшифровать LLaMA.
На выходных исследователи ИИ со всего мира сели, чтобы опробовать этот блестящий новый LLM, выпущенный Meta. Вскоре они обнаружили, что одной из самых больших проблем с моделью был ее размер: для работы самой маленькой модели требовалось около 30 ГБ памяти графического процессора. Однако, запустив его через библиотеку bitsandbytes для оптимизации с плавающей запятой, они смогли заставить модель работать на одной NVIDIA RTX 3060. Кроме того, исследователь на GitHub даже смог запустить 7-битную версию LLM на Ryzen 79.00X CPU, выводящий несколько слов в секунду.
Пользователи 4chan также создали удобный ресурс для тех, кто хочет развернуть модель на своих рабочих станциях. В этом руководстве представлено пошаговое руководство по получению модели и добавлению к ней модифицированных весов Huggingface для более эффективного вывода.
Более того, ресурс даже предлагает способ интеграции LLaMA в KoboldAI, онлайн-платформу для письма на основе ИИ.
Несмотря на то, что эта модель была выпущена с большой помпой со стороны Meta, первоначальные тесты модели показали, что она, возможно, не так совершенна, как конкурирующие предложения, такие как ChatGPT. Однако важно отметить, что это всего лишь LLM, тогда как ChatGPT — это чат-бот, построенный на тонко настроенном LLM. Даже в этом случае он может давать ответы на открытые вопросы. Пользователь Hacker News WithinReason спросил LLM о смысле жизни, на что тот ответил:
“ Я считаю, что смысл жизни в том, чтобы быть счастливым, а также жить настоящим моментом. Я думаю, что это самое главное. Я не совсем тусовщица. Я не девочка. У меня есть очень небольшая группа близких подруг, и это все, что мне нужно. Я верю в равные права для всех. Я не бунтарь. Я вообще ни против чего не бунтую. Я очень традиционная девушка, очень преданная…»
Многие исследователи утверждают, что такая производительность связана с тем, что модель была обучена «всему», что, в свою очередь, означает, что она не была настроена для какой-то конкретной цели.
Примечательно, что LLaMA стоит особняком, поскольку обучался только на общедоступных данных. Беглый взгляд на исследовательскую работу показывает, что 60,7% данных модели поступили из
Это обеспечивает возможное объяснение ответов LLaMA на словесный суп, поскольку вместо этого модель может хорошо подходить для тонкой настройки для конкретных случаев использования. Действительно, тесты LLaMA, опубликованные Meta, показывают, что даже самая маленькая версия этого агента смогла превзойти GPT-3. Это рисует позитивную картину для будущего LLaMA, в котором теперь есть огромная часть сообщества ИИ, изучающая его внутреннюю работу.
nx-пивоваренный — Googlesuche
AlleNewsVideosBilderMapsShoppingBücher
Такой вариант
Ergebnisse für nxbrew
Статус, такой как: nx-brew 9s
6
Новости | NXBrew.com nxbrew.
com › категория › новости
Привет всем! Это было потрясающее время, когда мы вместе играли в игры. Теперь пришло время отпраздновать, поскольку сегодня NXBrew исполнилось 2 года…. 27 апреля …
Страница 6 из 991 | Бесплатные загрузки Nintendo Switch Gaming XCI, NSP
nxbrew.com › стр.
Загрузите последние NSP, XCI и NSZ для Nintendo Switch одним щелчком мыши и бесплатно. NXBrew.com — ваша идеальная платформа для игр Nintendo Switch.
Список всех игр для Switch (NSP, XCI, eShop) — NXBrew.com игровые релизы.
Страница 29 из 989 | Бесплатные загрузки Nintendo Switch Gaming XCI, NSP
nxbrew.com › страница
NXBrew.com · Загрузить новейшие игры Nintendo Switch, NSP, XCI, Homebrews и CFW · Drift & Drive Switch NSP (интернет-магазин) · Охотник на демонов: New Chapter Switch NSP (интернет-магазин).
NxBrew — Twitter
twitter.com › nxbrew
NxBrew предлагает бесплатные игры Nintendo Switch для взломанной консоли.
Посетите сегодня и бесплатно загрузите игры NSP, XCI с поддержкой Google Drive и MEGA.
nxbrew.com Wettbewerber – Top-Seiten wie nxbrew.com | Похожие веб
www.similarweb.com › nxbrew.com
nxbrew.com 10 лучших производителей и альтернатив. Analysieren Sie kostenlos und mit nur einem Нажмите на другие веб-сайты wie nxbrew.com, geordnet nach …
20 Beste Nxbrew.com Альтернатива — Xranks
xranks.com › альтернатива › nxbrew & Konkbrew
Nxbrew Добро пожаловать в Nginx!. … NswRom.com — загрузите все игровые ромы Nintendo Switch NSZ NSP XCI. … Panorhostcom.xyz занимает номер …
NXBrew.com | Бесплатные загрузки Nintendo Switch Gaming XCI, NSP
веб-сайт.informer.com › nxbrew
nxbrew.com в Висконсине. Загрузите последние версии NSP, XCI и NSZ для Nintendo Switch одним щелчком мыши и бесплатно. NXBrew.com — ваша идеальная платформа для …
Top 77 Подобные веб-сайты, такие как nxbrew.
