业内人士表示,随着近期北美云商及部分AI产业链公司明确上调资本开支以及积极投资AI的态度,修复了国内投资者对于AI及算力板块的信心,光模块作为算力基建重要环节,对其2024年至2025年的需求持续保持乐观,叠加行业马太效应增强,头部光模块厂商业绩有望维持高增长。
事件驱动海外AI巨头接连推出新模型
事件影响多模态推理产业节奏正在加快
相比训练,推理阶段更重视内存+网络平衡。大模型推理过程,模型参数和KVcache是主要的内存使用者,尽管相比训练阶段减少了梯度、优化器等占用,但最大瓶颈在于显存,且随着模型增大需要减少并行或优化并行通信。
以英伟达H200芯片为例,产业硬件侧已经开始重视长期推理需求。英伟达H200重要硬件变化是HBM3升级至HBM3e,容量带宽显著优化;重要软件变化是大幅强化了推理性能(匹配TensorRT-LLM)和HPC性能;显著降低能耗和整体成本。相比H100,H200几乎提升了Llama270B推理性能1.9x,提升GPT3175B推理性能1.6x;从单位成本和模型复杂度角度考虑,对未来旗舰AI芯片在推理场景的应用判断应当更乐观,相应的光网络需求亦同步。
投资思路头部光模块厂商业绩有望维持高增长
广发证券认为,前期导致AI算力板块持续调整的主要原因是国内外投资者对于AI应用的前景有明显预期差,A股投资者对于AI应用偏向保守,担心算力板块的增长难以延续。随着近期北美云商及部分AI产业链公司明确上调资本开支以及积极投资AI的态度,修复了国内投资者对于AI及算力板块的信心,光模块作为算力基建重要环节,对其2024年至2025年的需求持续保持乐观,叠加行业马太效应增强,头部光模块厂商业绩有望维持高增长。
本文源自大众证券报