GEMMA 3’s Google-це відкритий код, єдиний GPU AI з вікном контексту 128K

Більшість нових моделей ШІ стають великими – більше параметрів, більше токенів, більше всього. Найновіша модель ШІ від Google має великі цифри, але вона також налаштована на ефективність. Модель Gemma 3 з відкритим вихідним кодом є найкращою у світі для роботи на одному графічному процесорі або прискорювачі ШІ. Остання модель Gemma орієнтована в першу чергу на розробників, яким потрібно створити ШІ для роботи в різних середовищах, будь то центр обробки даних або смартфон. І ви можете попрацювати з Gemma 3 прямо зараз.

Google стверджує, що Gemma 3 зможе вирішувати більш складні завдання порівняно зі старими відкритими моделями Google. Контекстне вікно, яке показує, скільки даних ви можете ввести, було розширено до 128 000 з 8 192 токенів в . Gemma 3, яка базується на власній платформі Gemini 2.0, також є мультимодальною моделлю, здатною обробляти текст, зображення з високою роздільною здатністю і навіть відео. Google також має нове рішення для безпеки зображень під назвою ShieldGemma 2, яке можна інтегрувати з Gemma, щоб допомогти блокувати небажані зображення в трьох категоріях контенту: небезпечні, сексуальні або насильницькі.

Більшість популярних моделей штучного інтелекту, про які ви чули, працюють на колекціях серверів у центрі обробки даних, вщерть заповнених обчислювальними потужностями ШІ. Багато з них занадто великі, щоб працювати на тому обладнанні, яке ви маєте вдома або в офісі. Випуск перших моделей Gemma минулого року дав розробникам та ентузіастам ще одну малозатратну можливість конкурувати з такими, як Meta Llama3. Останнім часом спостерігається прагнення до ефективності в галузі ШІ, і такі моделі набирають популярність завдяки нижчим обчислювальним витратам.

Google стверджує, що Gemma 3 є “найкращою у світі моделлю з одним акселератором”. Однак не всі версії моделі ідеально підходять для локальної обробки. Вона буває різних розмірів, від мініатюрної моделі з 1 мільярдом параметрів для роботи з текстом, яка може працювати майже на всьому, до громіздкої версії з 27 мільярдами параметрів, яка поглинає багато оперативної пам’яті. Він також доступний у версіях на 4 та 12 мільярдів параметрів. У режимах низької точності найменша модель Gemma 3 може займати менше гігабайта пам’яті, але надвеликі версії потребують 20-30 ГБ навіть при 4-бітній точності.

Але наскільки хороша Gemma 3? Google надав деякі дані, які, як видається, демонструють суттєві покращення порівняно з більшістю інших моделей. Використовуючи метрику Elo, яка вимірює вподобання користувачів, Gemma 3 27B випереджає Gemma 2, Meta Llama3, OpenAI o3-mini та інші за можливостями чату. У цьому відносно суб’єктивному тесті вона не дотягує до DeepSeek R1. Однак тут він працює на одному прискорювачі Nvidia H100, тоді як більшість інших моделей потребують кількох графічних процесорів. Google стверджує, що Gemma 3 також краще справляється з математикою, кодуванням та виконанням складних інструкцій. Однак вона не наводить жодних цифр, які б це підтверджували.

Найновіша модель Gemma доступна онлайн у Google AI Studio. Ви також можете налаштувати навчання моделі за допомогою таких інструментів, як Google Colab і Vertex AI, або просто використовувати власний графічний процесор. Нові моделі Gemma 3 є відкритими, але чи варто їх так називати – це питання дискусійне. Ви можете завантажити всю модель безкоштовно зі сховищ, таких як або . Однак ліцензійна угода Google обмежує те, що ви можете з ними робити. Незважаючи на це, Google не буде знати, що ви досліджуєте на своєму власному обладнанні, що є перевагою більш ефективних локальних моделей, таких як Gemma 3.

Неважливо, що ви хочете робити, є модель Gemma, яка підійде для вашого обладнання. Потрібне натхнення? Google створив нову спільноту “”, щоб висвітлювати програми, створені на основі моделей Gemma.