100倍杠杆 陈冠中：地瓜机器人RDK系列部署生成式AI模型
该报告主要介绍了地瓜机器人RDK系列在部署生成式AI模型方面的相关内容，包括RDK系列产品、模型部署、LLM技术选型以及实际效果演示。这些内容展示了RDK系列在嵌入式系统中应用生成式AI模型的能力和优势，为智能机器人开发提供了技术参考和实践经验。
RDK系列产品介绍
1. 嵌入式系统概述
嵌入式系统是为特定任务设计的计算机系统，用于控制、监测或执行特定功能，广泛应用于汽车、家电、医疗设备等领域。它具有实时性、可靠性、低功耗、低成本等特点，包含微处理器或微控制器及相关硬件和软件。
2. RDK系列产品详情
RDK全称为Robotics Developer Kits，是基于地瓜智能芯片打造的机器人开发者套件，包括RDK X3、RDK X3 Module、RDK X5、RDK X5 Module等。RDK X5具有多种计算能力和配置，如CPU、GPU、DDR、Wi-Fi等，还具备丰富的接口和功能，如多标准兼容耳机、双频Wi-Fi、千兆网口等，可灵活选择内存，方便连接机器人底盘和电机，便于调试和开发。其公版模型在目标检测任务中，不同模型（如Yolov8系列、Yolov10系列）具有不同的尺寸、类别数、参数量、BPU延迟、BPU吞吐量和后处理时间等性能指标。
展开剩余83%RDK上的模型部署
1. 人工智能与自然语言处理相关概念
生成式AI根据提示或数据创建新内容，深度学习是其基础技术，机器学习是人工智能子集，自然语言处理使计算机能理解和生成自然语言文本，涉及多种任务，大语言模型基于海量数据预训练，常见有ChatGPT、文心一言等。
2. 地瓜工具链流程与技术
包括问题定义、数据准备、模型选择/开发、训练与调优、量化、部署等环节。模型量化通过降低权重和激活精度减小存储和计算量，如8bit量化方案，可实现芯片级计算加速，编译器优化能提升模型性能，如提高BPU帧率、降低延迟、提高利用率、减少DDR带宽占用等，还介绍了模型预测库和Model Zoo相关内容。
RDK上LLM技术选型
1. LLM类别及特点
主要分为基于Transformer和基于循环神经网络RNN的模型。Transformer依赖注意力机制处理数据，在NLP任务中表现出色；RNN适用于处理序列数据，早期语言模型多基于其改进版本。
2. RWKV语言模型特性
RWKV模型架构继承Transformer思想，在Time Mixing和Channel Mixing方面有改进。Time Mixing通过加权平均和非线性变换整合不同时间步信息，捕捉序列全局和局部信息；Channel Mixing采用高效线性变换和激活函数融合通道信息，减少计算复杂度。该模型具有可解释性强、高效并行训练、空间复杂度恒定、线性时间复杂度等优点，每次推理内部有固定大小上下文信息向量。
RDK上LLM效果演示
展示了端侧RWKV - V5、端侧Llama 1B和云端Qwen多模态在RDK系列产品上的实际效果，通过交互界面呈现模型的问答能力和多模态处理能力，如文本解释（解释黑洞）和图像上传处理等功能，体现了RDK系列产品对不同类型生成式AI模型的部署和运行能力，以及在实际应用场景中的表现。
感情运：在感情中，学会先爱自己，不要过于迁就对方。
免责声明：我们尊重知识产权、数据隐私100倍杠杆，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系
发布于：广东省