Форум метеозависимых

Затраты электроэнергии на обеспечение работы систем ИИ стремительно растут
"Энергопотребление в эпоху ИИ

Исследовательская фирма Epoch AI в 2022 году подсчитала, что вычислительная мощность, используемая для создания новой передовой модели ИИ, должна удваиваться каждые 6-10 месяцев. А вместе с увеличением мощностей растут энергозатраты.

Большие языковые модели требуют гораздо больше энергии, чем традиционные поисковые системы. По оценкам Международного энергетического агентства (МЭА), один запрос к ChatGPT потребляет почти в 10 раз больше энергии, чем один поисковый запрос в Google.

Потребляемая мощность LLM существенно зависит от размера модели. По данным OpenAI, GPT-2, который имеет 1,5 млрд параметров, потреблял 28 000 кВт⋅ч энергии для обучения. Для сравнения, GPT-3, который имеет 175 млрд параметров, потреблял уже 284 000 кВт⋅ч энергии.

Отчет МЭА показывает, что в 2022 году дата-центры потребили 460 тераватт-часов (ТВт⋅ч) — 2% от всего мирового потребления электроэнергии. МЭА прогнозирует: объем энергии, потребляемой дата-центрами, в результате роста ИИ-систем может увеличиться более чем вдвое за три года. Мировые дата-центры будут потреблять 1000 ТВт⋅ч, что эквивалентно годовому потреблению электричества в Японии. В свою очередь Uptime Institute считает, что к 2025 году на долю ИИ будет приходиться 10% глобального энергопотребления в индустрии дата-центров. "

Недавно появилась статья с таким названием
ИИ столкнулся с непреодолимым потолком
Источник информации

" Современные ИИ используют алгоритмы глубокого обучения и искусственные нейронные сети для поиска тенденций в данных. Затем они могут экстраполировать эти данные или генерировать новые данные по той же тенденции. Все начинается с "обучения" ИИ, когда ему подается огромное количество данных для анализа, что позволяет ему находить эти тенденции. После этого ИИ можно запросить для получения результата. Эта базовая концепция лежит в основе компьютерного зрения, самоуправляемых автомобилей, чат-ботов и генеративного ИИ." "Но есть еще одна проблема. Обучение ИИ невероятно ресурсоемкое. ИИ должен сравнить каждую отдельную точку данных с каждой другой точкой данных в наборе, чтобы найти эти связи и тенденции. Это означает, что для каждого добавленного бита данных в обучающую базу данных ИИ объем вычислительной работы для обучения этого ИИ на этой базе данных увеличивается экспоненциально. Таким образом, даже если вам удастся получить огромное количество данных, необходимых для обучения этих все более и более сложных ИИ, количество физической вычислительной мощности и энергии, которые для этого потребуются, в конечном итоге возрастет до невозможного уровня."есть доказательства того, что мы находимся на этапе, когда и убывающая отдача от роста обучающей базы данных, и экспоненциальное увеличение требуемой вычислительной мощности накладывают жесткий потолок на развитие ИИ."Генеральный директор OpenAI Сэм Альтман заявил, что для того, чтобы продвинутый ИИ стал жизнеспособным, необходим энергетический прорыв, такой как термоядерный синтез."

Фрагмент другой статьи "ИИ имеет гигантский, дорогостоящий недостаток", где автор рассказал как ученые MIT развеяли сказки маркетологов.
"Исследователи из МИТ хотели прорваться сквозь маркетинговую чепуху и преувеличенные заявления руководителей ИИ,
чтобы узнать, какова на самом деле коммерческая жизнеспособность ИИ.
Для этого они рассчитали, более ли экономичен ИИ в 1000 визуально поддерживаемых задачах в 800 профессиях.
Таким образом, тип ИИ, который они здесь проверяли, это компьютерное зрение в сочетании с периферийной робототехникой
и компьютерными системами. ИИ компьютерного зрения позволяет компьютерам понимать окружающий мир через камеры.
Это технология, лежащая в основе самоуправления Tesla и всемирно известного робота ASIMO.
Одним из примеров задачи, которую исследователи рассматривали для замены на ИИ, была работа в пекарне,
где ИИ компьютерного зрения оценивал качество ингредиентов перед тем, как они попадут на кухню.
В этом примере ИИ заменил бы только 6% работы одной должности; таким образом, стоимость разработки, установки,
эксплуатации и обслуживания такой системы намного дороже, чем найм человека для выполнения той же задачи."
Источник информации