/images/avatar-home.jpeg

基于 虚拟线程 构建高性能 Kafka → HTTP 转发服务

在物联网/车联网场景中,如果需要将设备数据转发到第三方平台,为了不影响IOT平台性能,通常将设备数据通过 Kafka 进行高速传输,但很多第三方平台只提供 HTTP 接口。如何在两者之间搭建一座"高性能、不丢消息"的桥梁?本文将分享我基于 Spring Boot 3.3 + 虚拟线程 + PostgreSQL 实现的项目。

ps: 本文的目的是记录一个项目设计过程,便于日后复盘,但暂不提供实际压测指标(如吞吐量、延迟、资源消耗)

记一次小模型微调/蒸馏学习(Qwen3-0.6B 从收货地址中提取结构化信息)

无意间,看见阿里云提供了针对 Qwen3-0.6B 的蒸馏教程,本文章本质上是跟着阿里云提供的教程学习微调过程,官方教程地址

借用下阿里云教程的介绍:

大参数模型效果好,但成本高、响应慢。为了在保障效果的同时提升推理速度、降低成本,可首先借助大参数模型完成目标任务的数据生成,并使用这些数据微调小参数模型,使其在特定任务中达到接近大参数模型的表现,这一过程也被称为模型蒸馏。

本方案将以从一句话中提取结构化信息(如收件人、地址、电话)为例,演示如何通过模型蒸馏,让 Qwen3-0.6B 模型在此任务上达到大参数模型的表现。