手术、直播教学、脑机接口…… Vision Pro或能在医疗界大显身手
漫威电影里,超级英雄钢铁侠穿戴着厚重盔甲,却能通过手眼交互让多块电子屏幕展现在眼前,一边无障碍读取信息,一边跟敌人打斗。而2023年6月,苹果公司发布的全新头戴式硬件设备Vision Pro某种程度上将这一电影场景带进了现实——普通人也可以通过眼球转动、手势和声音,操控各种App,和外界自如交互。
Vision Pro发布时的定位面向消费终端,媒体、消费者、技术博主的测评体验也大多聚焦于娱乐和办公以及多人协作等场景——有用户分享称,戴着Vision Pro看奥运会,能同时追5场比赛。但事实上,Vision Pro的应用场景正在朝更加专业的方向拓展,比如对精确度和安全性要求极高的医疗界。国内外已经有多位不同科室的医生佩戴着Vision Pro完成了外科手术——此前从未有任何一款头戴式硬件能做到;医学院学生利用它全方位观察心脏的立体结构;还有医生期待在未来用它开展直播手术教学……医疗行业的各种新尝试,赋予这款硬件的前景新的想象力。
今年2月初,苹果Vision Pro在美国正式发售,时隔4个月,Vision Pro进入中国市场。戈允申等不及国行发售时间,3月初就找朋友从美国背回了一台。
戈允申是复旦大学附属华山医院运动医学科的副主任医师,大约10年前他就想将智能眼镜应用在手术中,通过第一视角记录手术全程,用于教学。“传统的手术教学需要学生围在一旁观看,但手术室培训人员太多会有安全隐患,医院也在尽可能减少无关人员进出手术室。”戈允申对《第一财经》杂志说。
作为一名技术爱好者,戈允申体验过Google G lass智能眼镜、Facebook的VR头显Oculus、微软的MR头显HoloLens等各式各样的虚拟现实(VR)和增强现实(AR)以及混合现实(MR)设备。但是VR设备的视觉与外界隔绝,看不到病灶;MR头显目前的分辨率不够清晰;智能眼镜则容易掉落……由于行业技术更新尚未成熟,戈允申此前从未把这些试用过的产品用在手术中——直到Vision Pro出现。
不是单纯的AR、VR 或MR,苹果公司将Vision Pro定义为新一代空间计算设备。空间计算是一种新型计算方式,具体来说,就是通过计算机视觉、机器学习和高级传感器技术,将数据从二维平面扩展到三维空间,允许用户直接在真实世界中与虚拟对象交互,其沉浸式的体验远超移动计算时代的一块块电子屏幕。
今年3月,戈允申佩戴Vision Pro为患者做完了一台关节镜手术。关节镜手术是内镜手术的一种,通过关节处的小切口将带有摄像头的关节镜放进封闭的关节腔隙中,摄像头信号接入显示屏,患者的病灶细节呈现出来,医生会平视着屏幕做完手术。

使用Vision Pro前,戈允申做手术时要分别看不同的显示屏,还要给学生直播讲解,需同时接入好几路信号,“一台电脑放患者的核磁共振片,一台电脑放幻灯片和病历,还要有一个屏幕显示关节镜的镜头实况,而且我自己不能控制,需要助手去切换,非常麻烦。”戈允申说,有时看不清楚,手术中途要走近屏幕观察,再返回手术台。Vision Pro的多屏幕联动功能解决了上述困扰,将多台电脑的信号接入Vision Pro后,戈允申眼前可以同时展示多块屏幕,同时,只需简单的眼睛、手势和语音交互,就能调阅所有资料,这种无接触式的操作满足手术室的无菌标准。
VisionPro的4 K 超高清分辨率、两片Micro-OLED显示屏,以及官方数据显示的12毫秒延迟,为用户提供了高清、无延迟的视觉体验——这对医生来说尤其重要,如果屏幕清晰度不够、延迟时间过长,手术的精细化要求就无法满足,医生手里结束一项操作,镜头中还没有呈现,可能会给患者带来伤害。
根据过往的使用体验,戈允申认为VisionPro是第一款真正能够在手术中发挥好辅助作用的混合现实产品。他已经戴着Vision Pro做了好几场手术教学,手术结束将记录上传至云端,学生可以用第一视角了解病灶和操作细节,降低了理解难度。“相比以前,学生的观感更清楚、直观;我也不需要很多人做助手,一个人辅助直播就够了。”戈允申说。
苹果Vision Pro在医疗领域里能做什么?

事实上,不只戈允申,中国已有数位不同科室的医生应用了Vision Pro,不过这款全新的硬件产品在手术类型和应用生态上还是存在一定的使用门槛,而且并非每一项手术都适用。
戈允申认为自己属于国内医生圈子里最早研究Vision Pro的一批人,“行业内使用VisionPro的外科医生不算特别多,Vision Pro只能辅助做内镜和腔镜手术。”戈允申解释道,这两种手术都会通过细微创面,将内窥镜等特殊设备探照进身体内部,医生会抬头直视前方的屏幕,完成手术。“相比之下,开放式手术就不适用于Vision Pro,手术时要用无影灯聚焦,无影灯照射下的摄像头曝光过度,什么都看不见。医生低头用肉眼去看病灶更加精细。”
今年4月,吉林大学白求恩第三医院胃肠结直肠外科的谢忠士医生团队完成了用Vision Pro辅助的腹腔镜乙状结肠癌根治术;5月,北京大学人民医院胸外科医师高健全程佩戴Vision Pro做完了胸腔镜肺癌根治术;7月,北京大学首钢医院泌尿外科主任李宁忱团队完成了Vision Pro辅助下的腹腔镜肾上腺肿物切除术。无一例外,上述案例都属于腔镜手术。
无论是苹果抛出的空间计算概念,还是早已为人熟知的AR、VR设备,想要吸引更广泛的用户,重点在于内容生态建设。医学可视化解决方案提供商,上海医微讯数字科技股份有限公司(以下简称“医微讯”)开发了一款名为“术视”的应用程序,并在今年3月与戈允申合作完成了关节镜手术。这款应用程序可以录入视频影像、图片影像,还可以开启二维手术直播,“术视是国内第一款正式上架Vision Pro平台的医疗类应用,可以接入患者的影像资料和内窥镜信号,如果没有应用,只是将电子屏幕投屏进Vision Pro,医生还是无法实现多屏联动的效果。”医微讯创始人兼CEO潘耿对《第一财经》杂志说,除了录入平面影像,术视会根据患者真实的CT平扫数据构建三维立体模型,未来他们还会尝试开发三维手术直播功 能。
而在海外,目前也有多款医疗类应用上架,涵盖了手术规划、直播教学、医疗科普、心理健康保健等范畴。
比如西门子医疗上线了Cinematic Reality、史赛克上线了myMako,这两个应用将二维医学影像数据(MRI/CT)扫描转换为三维立体图。相比传统的平面扫描,经过渲染的三维图像使医生能够更准确地了解患者病灶的解剖结构。应用程序Insight Heart能够用高分辨率的三维立体模型呈现心脏和心血管系统,医学生可以从任意角度缩放模型,观察心肌梗塞、动脉高血压、心房颤动等疾病的视觉效果,感知不同病症下的心跳,了解对应的诊断和治疗方案。
“Vision Pro实际上有些超前,想立刻把它用起来,替代大家已经习惯的屏幕,在消费市场短期内有些困难。苹果的重点可能在B端。”潘耿说。事实上,Vision Pro接近3万元人民币的售价、650克上下的重量,也确实一定程度上拉远了它与普通消费者的距离。今年7月,苹果公司CEO蒂姆·库克在接受采访时也表示:苹果Vision Pro在企业端的应用比预期要快,他还特别提到自己已看到一些外科医生使用。
根据潘耿的观察,愿意付费,或者在未获得苹果授权的情况下想主动尝试应用的职业群体里,医生居多。医微讯正在和具有学术影响力的学科,以及对技术感兴趣的医生合作,共同探索潜在的医疗场景。
戈允申则最期待Vision Pro与三维关节镜的结合应用。在关节镜领域,受到镜头尺寸和工艺的限制,关节镜手术几十年来都只有二维画面。三维关节镜技术正在研发阶段,使用时需要额外佩戴偏光眼镜才能呈现三维效果,“如果三维关节镜的信号可以直接接入Vision Pro,扩大手术视野,就可以更精确地做好术中定 位。”
全球范围内已经出现了更多将前沿技术与Vision Pro结合的尝试,比如人工智能与脑机接口(BCI)。
西达赛奈(Cedars-Sinai)医疗中心开发了一款名为“Xaia”的应用程序,在Vision Pro中,由AI驱动的数字人与患者对话互动,提供心理健康方面的支持,还会为患者营造沉浸式的虚拟空间,体验深呼吸练习与冥想。而今年7月底,脑机接口公司Synchron宣布,已成功将其脑机接口系统与Vision Pro相连。64岁的Mark是一位渐冻症患者,植入与Vision Pro相连的BCI系统后,经过测试和训练,通过意念交互,他就可以控制Vision Pro的光标,在该设备上玩纸牌、看电视和发送短信。
Vision Pro是否会成为改变医疗行业的变革性产品,眼下下结论还为时过早,但正如Synchron的CEO Thomas Oxley所说,它至少提供了“一个全新的治疗方法”,帮助患者们恢复那些我们习以为常的能力。