Большая языковая модель ChatGPT потребляет в десять раз больше энергии на запрос, чем поиск в Google, при этом годовое потребление энергии оценивается в 226,82 млн. киловатт часов.
Большие языковые модели (LLMM), такие как ChatGPT OpenAI, потребляют значительную энергию, с одним запросом с использованием 2,9 ватт-часа, в 10 раз больше, чем обычный поиск в Google. Согласно оценкам, ежегодное потребление энергии в ЧатгПТ для ответов на запросы составляет 226,82 млн. киловатт-часов, что соответствует объему электроэнергии, используемой 12 малыми странами в год. В докладе подчеркивается необходимость более устойчивой разработки и внедрения методов АИ, что побуждает технологические компании и банки изучать энергоэффективные модели АИ и возобновляемые источники энергии.
August 29, 2024
275 Статьи