Nat. BME | 哈佛大学团队Mobilio智能手机应用:融合AI与个性化音频的室外辅助导航系统

★ 星标「医工学人」,第一时间获取医工交叉领域新闻动态

哈佛大学工程与应用科学学院及Kempner自然与人工智能研究所的Raymond Liu与Patrick Slade研究团队近期开发了一款名为Mobilio的智能手机应用程序。该系统利用现成消费级智能手机的传感器与计算能力,结合轻量化人工智能模型和个性化音频反馈机制,旨在为中重度视觉障碍(BVI)人群提供连续的室外避障与路径引导服务。

原论文名称: Improving outdoor navigation for people with blindness using an AI-driven smartphone application and personalized audio guidance(利用AI驱动的智能手机应用与个性化语音提示优化视障人士的户外导航体验)

技术拆解:多模态感知与人在回路的融合

视觉障碍人群在室外导航时主要面临两个层面的信息缺失:宏观的路线规划与微观的即时避障。Mobilio系统的核心架构通过软硬件协同解决了这两个痛点。在硬件部署上,用户需将智能手机(研究中采用iPhone 12 Pro)固定于胸前,佩戴开放式骨传导耳机以保持对环境底噪的感知,并可同时使用传统的白手杖。

在软件与算法层面,系统主要依赖三大核心模块协同工作。首先是环境感知。系统调用智能手机内置的LiDAR(激光雷达)与视觉惯性里程计(VIO),实时构建3D占据栅格地图。该机制能够识别前方1.5米范围内的悬空及地面障碍物,计算规避路径。其次是路径引导。团队部署了一个运行频率为6Hz的极轻量化语义分割模型(PP-MobileSeg-Tiny)。该模型通过压缩计算量,在移动端实现了对人行道、公路和斑马线等关键路网元素的实时分割。最后是定位修正。常规GPS存在数米的漂移,Mobilio通过融合VIO与视觉路径识别数据对GPS信号进行校准,从而提供精度更高的转弯与路口提示。

Mobilio系统架构与用户佩戴示意图。展示了智能手机在胸前的固定方式,以及摄像头/LiDAR数据输入、AI处理流水线(包含语义分割和VIO)到骨传导耳机音频输出的完整信息流。
Mobilio系统架构与用户佩戴示意图。展示了智能手机在胸前的固定方式,以及摄像头/LiDAR数据输入、AI处理流水线(包含语义分割和VIO)到骨传导耳机音频输出的完整信息流。

在辅助导航设备中,固定的音频提示往往导致用户的认知过载或信息遗漏,因为个体对声音频率、节奏的敏感度存在显著差异。该研究引入了“人在回路(Human-in-the-loop)”优化机制。系统采用协方差矩阵自适应进化策略(CMA-ES)算法,在用户实际行走测试中动态调整音频的三个关键参数:音频速率、音调范围和缩放因子。

人在回路优化机制及个体参数分布。通过雷达图或散点图展示了不同受试者经过CMA-ES算法优化后最终确定的音频参数组合,直观反映了最优音频设置在不同个体间的巨大差异。
人在回路优化机制及个体参数分布。通过雷达图或散点图展示了不同受试者经过CMA-ES算法优化后最终确定的音频参数组合,直观反映了最优音频设置在不同个体间的巨大差异。

临床验证与数据表现

该系统在真实世界环境中的有效性由14名真实的BVI受试者进行了临床评估。测试排除了理想化的实验室环境,直接在包含噪音、复杂路况的真实社区中进行。

临床数据显示,个性化音频调节阶段(约20分钟),受试者的平均航向误差降低了19%。在长达150米的复杂室外导航对比测试中,采用Mobilio系统的受试者与使用Google Maps相比,其所需的旁人言语纠正次数下降了72%,整体完成时间缩短13%。在系统可靠性评估上,统计学分析表明,Mobilio在维持航向和到达目标方面的表现,与由人类向导引导的数据基线没有显著差异。

在室内避障测试中,与单独使用白手杖相比,启动Mobilio使用户的身体及手杖与环境的碰撞次数减少了41%。尽管音频处理带来的认知负担使整体通行时间增加了17%,但在美国国家航空航天局任务负荷指数(NASA-TLX)量表评估中,该系统的系统可用性得分(SUS)依然达到79分,处于第84百分位,证明其具备良好的用户接受度。

室外导航性能对比数据图。主要通过柱状图和箱线图对比了受试者在分别使用Google Maps和Mobilio时的言语纠正次数、任务完成时间及导航成功率。
室外导航性能对比数据图。主要通过柱状图和箱线图对比了受试者在分别使用Google Maps和Mobilio时的言语纠正次数、任务完成时间及导航成功率。

横向对比与行业评估

视觉障碍辅助工具领域长期存在“有效性”与“普惠性”的博弈。通过以下对比,可以清晰界定Mobilio在现有技术光谱中的位置。

方案类型
代表形式
核心优势
局限性
Mobilio的区别与优势
传统物理辅助
白手杖、导盲犬
白手杖成本极低;导盲犬避障最智能
白手杖无法提供远距路况;导盲犬训练成本极高(普及率极低)
结合白手杖使用,补充了中远距离环境感知和宏观路径规划能力。
纯软件导航
Google Maps, 盲人专用导航App
部署成本低,易于获取
GPS漂移严重,缺乏微观避障能力,无法识别复杂人行道边界
融合边缘视觉AI与LiDAR修正GPS误差,提供亚米级精度及实时避障。
专用电子辅助设备(ETA)
智能盲杖、专用视觉头显
传感器专业,功能集成度高
硬件成本昂贵(通常数千美元),设备沉重,有社交病耻感
无需额外硬件。将复杂计算下放到现成智能手机的NPU,通过软件定义实现普惠。

行业启示与局限性分析

Mobilio系统的研发为医疗辅助技术提供了一个明确的演进方向:从专用硬件开发向“软件定义、通用硬件承载”的模式转移。利用大规模普及的消费电子产品(具备高算力芯片和先进传感器的智能手机)作为医疗辅助的算力底座,能够大幅降低无障碍技术的使用门槛,这也为“数字疗法”及“软件作为医疗器械(SaMD)”在残障辅助领域的应用提供了新范式。

该技术在推进商业化和大规模部署前,仍面临实际工程挑战:

  1. 1. 高功耗与续航瓶颈: 实时调用摄像头、LiDAR和神经网络引擎(GPU/NPU)会导致设备发热并快速消耗电量。目前系统实测续航约为3小时,无法满足全天候使用需求。
  2. 2. 极端场景的鲁棒性: 视觉与LiDAR融合系统对环境光照和天气条件高度敏感。在暴雨、大雪覆盖路面或完全无光的暗光环境下,语义分割模型的准确率将显著衰减。
  3. 3. 人体工程学与社交属性: 将手机通过胸带固定于胸前,在日常社交场景中仍不够自然。未来技术若能向佩戴体验更无感的智能眼镜(如集成摄像头的轻量化AR眼镜)迁移,将极大提升其日常实用性与隐蔽性。

参考资料

Liu, R., Slade, P. Improving outdoor navigation for people with blindness using an AI-driven smartphone application and personalized audio guidance. Nat. Biomed. Eng (2026). https://doi.org/10.1038/s41551-026-01772-x


撰文 | 张越青
审核 | 医工学人理事会
扫码加入医工学人,进入综合及细分领域群聊,参与线上线下交流活动
医工学人二维码

发表回复