跳转至

一图胜千Token：视觉语言模型如何在大幅降低AI能耗的同时提升准确率

文章背景与核心概要

大型语言模型（LLM）的推理能耗占到了AI整体运营能耗的90%以上，且能耗大小与输入Token的数量直接线性相关。在电信网络分析和数值时间序列数据分析（NTSDA）等领域，这种低效性尤为突出。来自4G/5G基站的多变量关键性能指标（KPI）窗口，传统上需要被转化为数千个浮点文本Token。这不仅极大地增加了计算负担，也对边缘端的能效提出了严峻挑战。

为了解决这一痛点，本文提出了一种范式转换：利用视觉语言模型（VLM）将时间序列数据编码为二维图像（2D plots），而非原始的文本序列。

通过这一创新方案，作者在主流架构（Llama-3.2-90B、Qwen2.5-VL-72B 和 Pixtral-12B）上验证了以下显著成效： * 显著减少Token数量： 输入Token数量减少了 3.6倍至10.4倍。 * 大幅降低能耗： 实测推理能耗降低了 1.8倍至2.5倍，在电信边缘及CloudRAN部署中，每天可节省约 7.2 MJ 的电能。 * 增强预测准确率： 在电信异常检测任务中，其精度超越了传统纯文本模型以及LSTM、ARIMA等经典基准模型达 144%至220% 以上。 * 突破上下文窗口限制： 当处理高维KPI（如24个以上KPI）时，传统LLM容易超出128K上下文窗口的限制，而视觉表征则能将工作负载轻松控制在标准限制之内。

📋 执行摘要 (Executive Summary)

LLM inference accounts for over 90% of AI operational energy, scaling directly with input token count—a critical inefficiency for telecom network analytics and numerical time-series data analysis (NTSDA), where raw multivariate KPI windows from 4G/5G cell sites expand into thousands of floating-point tokens. Vision-Language Models (VLMs) eliminate this mismatch by encoding time-series as 2D plots, achieving 3.6-10.4x input token reduction across Llama-3.2-90B, Qwen2.5-VL-72B, and Pixtral-12B architectures. This translates to 1.8-2.5x measured inference energy reduction, saving approximately 7.2 MJ/day at telecom edge deployments and CloudRAN that monitor 200 cells per 15-minute interval. Critically, efficiency gains do not sacrifice accuracy: a fine-tuned Llama-3.2-90B-Vision VLM achieves 220.7% higher precision than its text-only counterpart and outperforms LSTM and ARIMA baselines by over 144% on telecom anomaly detection. On public benchmarks, Pixtral-12B achieves a 20.6x improvement in J/F1 score at mean F1 = 0.82. At 24 KPIs, text representations exceed the 128K context window of most production LLMs, rendering text-only processing infeasible without truncation, while visual representations remain within standard limits. These results establish VLMs as an energy-efficient and accuracy-superior modality for numerical time-series workloads, providing empirical grounding for AI inference systems that treat energy consumption as a first-class engineering constraint.

大语言模型（LLM）的推理能耗占AI运营能耗的90%以上，且与输入Token数量成正比——这对于电信网络分析和数值时间序列数据分析（NTSDA）来说是一个严重的低效点，在这些领域中，来自4G/5G基站的原始多变量KPI窗口会扩展为数千个浮点Token。视觉语言模型（VLM）通过将时间序列编码为二维图表消除了这种不匹配，在 Llama-3.2-90B、Qwen2.5-VL-72B 和 Pixtral-12B 架构上实现了 3.6 到 10.4 倍的输入Token缩减。这意味着实测推理能耗降低了 1.8 到 2.5 倍，在每个15分钟时间间隔监控200个小区的电信边缘部署和CloudRAN中，每天可节省约 7.2 MJ 的能量。至关重要的是，效率的提升并未牺牲准确性：微调后的 Llama-3.2-90B-Vision VLM 比纯文本同类模型实现了高出 220.7% 的精度，在电信异常检测上比 LSTM 和 ARIMA 基准模型高出 144% 以上。在公开基准测试中，Pixtral-12B 在平均 F1 = 0.82 时实现了 20.6 倍的 J/F1 分数提升。当KPI数量达到24个时，文本表征超出了大多数生产级LLM的128K上下文窗口，导致纯文本处理在不进行截断的情况下无法进行，而视觉表征仍保持在标准限制内。这些结果确立了VLM作为数值时间序列工作负载的高能效且高精度的模态，为将能耗视为首要工程约束的AI推理系统提供了实证基础。

📄 摘要 (Abstract)

LLM inference accounts for over 90% of AI operational energy, scaling directly with input token count—a critical inefficiency for telecom network analytics and numerical time-series data analysis (NTSDA), where raw multivariate KPI windows from 4G/5G cell sites expand into thousands of floating-point tokens. Vision-Language Models (VLMs) eliminate this mismatch by encoding time-series as 2D plots, achieving 3.6-10.4x input token reduction across Llama-3.2-90B, Qwen2.5-VL-72B, and Pixtral-12B architectures. This translates to 1.8-2.5x measured inference energy reduction, saving approximately 7.2 MJ/day at telecom edge deployments and CloudRAN that monitor 200 cells per 15-minute interval. Critically, efficiency gains do not sacrifice accuracy: a fine-tuned Llama-3.2-90B-Vision VLM achieves 220.7% higher precision than its text-only counterpart and outperforms LSTM and ARIMA baselines by over 144% on telecom anomaly detection. On public benchmarks, Pixtral-12B achieves a 20.6x improvement in J/F1 score at mean F1 = 0.82. At 24 KPIs, text representations exceed the 128K context window of most production LLMs, rendering text-only processing infeasible without truncation, while visual representations remain within standard limits. These results establish VLMs as an energy-efficient and accuracy-superior modality for numerical time-series workloads, providing empirical grounding for AI inference systems that treat energy consumption as a first-class engineering constraint.

大语言模型（LLM）的推理能耗占AI运营能耗的90%以上，且与输入Token数量成正比——这对于电信网络分析和数值时间序列数据分析（NTSDA）来说是一个严重的低效点，在这些领域中，来自4G/5G基站的原始多变量KPI窗口会扩展为数千个浮点Token。视觉语言模型（VLM）通过将时间序列编码为二维图表消除了这种不匹配，在 Llama-3.2-90B、Qwen2.5-VL-72B 和 Pixtral-12B 架构上实现了 3.6 到 10.4 倍的输入Token缩减。这意味着实测推理能耗降低了 1.8 到 2.5 倍，在每个15分钟时间间隔监控200个小区的电信边缘部署和CloudRAN中，每天可节省约 7.2 MJ 的能量。至关重要的是，效率的提升并未牺牲准确性：微调后的 Llama-3.2-90B-Vision VLM 比纯文本同类模型实现了高出 220.7% 的精度，在电信异常检测上比 LSTM 和 ARIMA 基准模型高出 144% 以上。在公开基准测试中，Pixtral-12B 在平均 F1 = 0.82 时实现了 20.6 倍的 J/F1 分数提升。当KPI数量达到24个时，文本表征超出了大多数生产级LLM的128K上下文窗口，导致纯文本处理在不进行截断的情况下无法进行，而视觉表征仍保持在标准限制内。这些结果确立了VLM作为数值时间序列工作负载的高能效且高精度的模态，为将能耗视为首要工程约束的AI推理系统提供了实证基础。

⚙️ 核心发现与影响 (Key Findings & Impact)

  1. 将能耗视为首要约束 (Energy as a First-Class Constraint)： 表明AI的实际运营需要将功耗作为主要的架构瓶颈来对待，特别是在CloudRAN等边缘部署中。
  2. 在遥测数据上表现卓越 (Superior Performance on Telemetry)： 证明了基于图像的多模态建模在时间序列数据的模式识别方面优于纯数字字符串的输入方式。
  3. 上下文窗口突破 (Context Window Breakthrough)： 通过利用图像压缩技术紧凑地表征高维数值数据集，成功绕过了上下文长度耗尽的问题。

🔗 资源与全文访问 (Resources & Full-Text Access)