一个160KB的模型，能在STM32上跑起来吗？用TinyML说可以

一块指甲盖大小的STM32，主频不过两百兆出头，RAM以KB计量——TensorFlow官网说推荐用x86跑模型训练，谁会把神经网络往单片机里塞？但最近两年，这个想法被TinyML硬生生拽进了现实。

机器学习的传统流程是：训练集扔给GPU，导出模型，部署到云端或者手机端。但有一类场景，数据必须在产生的地方就地处理——震动传感器装在工厂设备上，异常波形要求毫秒级响应。上传到云端来回几百毫秒，黄花菜都凉了。于是大家开始琢磨：有没有办法把轻量化推理直接放在MCU上？

答案是肯定的，条件是模型得先接受"瘦身手术"。

核心概念：量化，不是简单的四舍五入

一个float32的权重占4字节，256个权重就要1KB。几万参数的小模型，光权值就能轻松吃掉STM32全部RAM。解决方法叫量化——把32位浮点数映射到8位整数。

不妨这样想：一个浮点数可以表示-3.4e38到3.4e38的范围，但一个训练好的网络里，某个层的权重可能只在[-1.5, 1.5]之间波动。用8位整数的0~255去线性映射这个区间，精度损失在1%以内，但存储直接压缩到原来的四分之一。

TensorFlow Lite for Microcontrollers的量化工具链做得很成熟。训练完成后跑一遍post-training quantization，它会自动收集每一层激活值的动态范围，算出缩放因子和零点偏移。原理不复杂：

real_value = (int_value - zero_point) * scale

从模型到C数组，中间发生了什么

量化之后的模型是一个.tflite文件，怎么塞进STM32的Flash里？TFLM的做法很有意思——它把这个二进制文件转成一个C语言header里的unsigned char数组。

unsigned char model_tflite[] = {
  0x1c, 0x00, 0x00, 0x00, 0x54, 0x46, 0x4c, 0x33,
  ...
};
unsigned int model_tflite_len = 162312;

160KB——一个真正的手写数字识别加简单关键词检测的模型，压缩到这个量级完全可行。STM32F4系列有512KB到1MB的Flash，完全装得下。

关键在这里：TFLM的算子解释器不是把整个TensorFlow runtime搬上去，它只实现了模型用到的那几个算子。你的模型如果只有全连接层和ReLU激活函数，解释器甚至不需要实现卷积——编译出来的二进制大小可以控制在20KB以内。

一个有意思的设计：arena缓冲区

TFLM在MCU上的推理不走动态内存分配。它在启动时预申请一块固定大小的缓冲区，称为tensor arena。所有中间张量的生命周期，都在这块内存里按区间管理。

static uint8_t tensor_arena[80 * 1024]; // 80KB
static tflite::MicroMutableOpResolver<10> resolver;
static tflite::MicroInterpreter interpreter(
    tflite::GetModel(model_tflite), resolver,
    tensor_arena, 80 * 1024);

80KB arena，一个关键词检测模型跑一轮推理，峰值占用大约50KB出头。STM32F407的192KB SRAM还有余量给主逻辑。arena大小需要根据模型调整，TFLM提供了MicroInterpreter::arena_used_bytes()来精确测量。

这种设计思路很妙——没有malloc、没有碎片、没有堆损坏的可能。实时系统最怕的就是不确定性内存分配，arena直接把这层风险消除了。

数据流动的最后一公里

模型和推理引擎都就位了，传感器数据怎么喂进去？

以一个三轴加速度传感器检测震动异常为例：MCU通过SPI读取ADXL345的数据，每读一组xyz就塞入一个环形缓冲区。攒够窗口长度（比如64个采样点），做一次简单的归一化——把原始值映射到模型输入要求的[-1, 1]区间——然后memcpy到interpreter的input tensor。

float* input = interpreter.input(0)->data.f;
for(size_t i = 0; i < WINDOW_SIZE; i++) {
    input[i] = (float)(raw_buffer[i] - 512) / 512.0f;
}
TfLiteStatus status = interpreter.Invoke();

Invoke()返回后，output tensor里就是推理结果。如果置信度超过阈值，可以拉高GPIO、触发中断、或者通过串口发一条消息出去。整个过程在2~5ms内完成，取决于模型的复杂度和主频。

对于功耗敏感的场合，推理完后可以直接把MCU丢进stop mode。下次数据就绪通过RTC或外部中断唤醒，跑一轮推理再睡回去。这种模式下，一节CR2032电池撑几个月不是问题。

一个常见的误区

很多人以为嵌入式AI一定要用树莓派或者Jetson这类带操作系统的平台。实际上，TinyML的画风完全不同——没有Linux、没有Python、甚至没有浮点单元（Cortex-M0+也能跑，只是编译器需要启用软浮点模拟）。

如果模型不需要CNN或者Transformer这种重量级结构，单个隐藏层的MLP（多层感知器）加上量化，完全可以塞入Cortex-M0级别的芯片。一个训练好的振动异常检测模型，参数总量在3000到5000之间，在STM32G030上跑一轮推理约8ms。而G030的价格——这是今天想分享的内容，欢迎讨论你遇到过哪些"不可能跑AI"的MCU型号，最后跑成了的？