Агентство перспективних досліджень та інновацій Великої Британії (ARIA) вкладе $53,5 мільйона в ініціативу, яка допоможе знизити вартість ШІ-інфраструктури. Проєкт “Масштабування обчислень: штучний інтелект за 1/1000 вартості” триватиме 4 роки. Усіх, у кого є ідеї, запрошують залишити заявку і додати документальний опис своєї концепції.
Мета ініціативи – створити варіанти інфраструктури, які забезпечуватимуть простоту, ефективність і продуктивність ШІ-процесорів за знижених витрат. При цьому дуже важливо не покладатися на передові виробничі потужності. Ідеї для проєктів пропонують підглянути в природи: наприклад, людський мозок – надпродуктивний “процесор”, який не потребує рідкісних і дорогих ресурсів.
Сурадж Брамхавар, директор програми ARIA з масштабування обчислень, вважає, що у людства більше не вийде експоненціально збільшувати обчислювальну потужність за менших витрат. Крім того, на ринку виник дефіцит чипів – тобто потужності для ШІ не тільки коштують дорого, їх ще й неможливо дістати. Брамхавар наголосив, що таке небезпечне поєднання технологічної значущості та дефіциту матиме не лише економічні, а й геополітичні, соціальні наслідки. У майбутньому людство може зіткнутися навіть із війнами за чипи для ШІ.
Створення та експлуатація систем штучного інтелекту – бізнес, який дорого коштує, що потребує тисяч чипів. Найкраща модель для ШІ від Nvidia, H100, коштує до $40 тисяч за чип. Старіший графічний процесор цієї ж компанії, A100, коштує близько $10 тисяч доларів. Його використовували для навчання популярних моделей, таких як GPT-4 від OpenAI.
Генеральний директор OpenAI Сем Альтман заявив торік, що навчання GPT-4 обійшлося його компанії більш ніж у $100 мільйонів, і що для створення моделі знадобилося 25 тисяч чипів A100.
Крім технологій, для ШІ потрібні величезні природні ресурси. Наприклад, стандартний центр обробки даних може в день вимагати до 1,1 мільйона літрів води – приблизно стільки ж поглинають 100 тисяч будинків.