Компания IBM успешно разработала новую оптическую технологию, которая может поддерживать обучение моделей искусственного интеллекта со «скоростью света» и при этом экономить значительную энергию. По данным IBM, благодаря применению этих новых достижений в центрах обработки данных экономия энергии при обучении типичной модели ИИ эквивалентна годовому потреблению энергии 5000 домохозяйств США.
По данным IBM, в то время как центры обработки данных подключаются к внешнему миру с помощью оптоволоконных кабелей, внутри них по-прежнему преобладающим материалом, используемым для проводки, является медная проводка. Эти медные провода, соединяющие ускорители графических процессоров, тратят много времени на ожидание данных от других устройств, одновременно потребляя электроэнергию, что значительно увеличивает эксплуатационные расходы. Комментируя новую технологию оптической передачи данных, Дарио Джил, старший вице-президент и директор по исследованиям IBM, сказал:
Поскольку ИИ создает потребность в большей мощности и вычислительной мощности, центры обработки данных должны развиваться, а универсальная пакетная оптическая технология может помочь крупномасштабным центрам обработки данных лучше адаптироваться к будущим требованиям. Благодаря этому прорыву процессоры будущего будут взаимодействовать так же, как оптоволоконные кабели передают данные в центры обработки данных и из них, открывая новую эру более быстрых и устойчивых коммуникаций, способных справляться с огромными рабочими нагрузками ИИ.

IBM описывает свой новый прототип технологии ко-пакетной оптики (CPO) в техническом документе . По сути, значительное увеличение пропускной способности в центрах обработки данных позволяет минимизировать время простоя графических процессоров, ускоряя обработку данных ИИ.
IBM уверенно обещает, что эта технология может помочь сократить время обучения для больших языковых моделей (LLM) с трех месяцев до трех недель. В то же время повышение энергоэффективности позволит сократить потребление энергии и сократить расходы, связанные с обучением на степень магистра права.