豆包手机助手发声:无法截屏银行键盘等受保护内容
豆包手机助手官方回应:采用原生截屏接口,严格遵循Secure标记,无法截屏银行安全键盘等受保护内容。技术原理揭秘,保障用户隐私安全。
有网友称“豆包手机助手通过READ_FRAME_BUFFER权限,从GPU渲染的图形缓冲区拿走图像数据,不需要走上层的截图API。还用了CAPTURE_SECURE_VIDEO_OUTPUT权限,可以获取银行安全键盘等受保护的界面内容”。
豆包手机助手官方表示,这是对豆包手机助手技术实现方式的错误解读,豆包手机助手采用的是原生截屏接口,严格遵循应用声明的Secure标记,无法截屏银行安全键盘等声明受保护的界面内容。
任何持有豆包手机助手技术预览版的用户,都可以自己写一个带有受保护页面的APK进行测试,让AI讲解页面内容,可以验证AI是无法看到的。
网友提到的READ_FRAME_BUFFER权限,是为了让AI可以在后台完成操作,豆包手机助手让三方应用运行在虚拟屏空间中。

为了获取虚拟屏中运行的应用截图内容(对应方法WindowManagerService.captureDisplay)提供给豆包大模型推理,所以需要READ_FRAME_BUFFER权限,但该方法以及权限无法读取到包括银行APP在内的任何三方应用设置为Secure的内容。
CAPTURE_SECURE_VIDEO_OUTPUT权限的使用,是因为受保护的页面在虚拟屏的投影(即点击灵动岛打开的粉色边缘的应用界面)中会显示为黑屏,用户无法查看和操作。
所以需要此权限将受保护的内容正常展示给用户并能够被用户操作,但在投影后,受保护的页面仍会标记为Secure,仅能被用户查看,无法被截屏。
豆包手机助手操作手机功能的实现原理是:用户下达指令-截屏发送给云端豆包大模型-模型理解后返回具体操作-手机端执行操作指令,不断重复直到完成任务。因此每一步操作后都需要再截图上传给云端大模型分析,每步操作间隔约为3秒钟。
由于分析界面所需的大模型参数较大,受限于芯片性能暂时无法运行在手机端侧,需要截图上传云端处理,目前国内多家手机厂商具有AI操作能力的助手产品,也是同样的实现原理,也会使用READ_FRAME_BUFFER等系统权限。
需要强调的是,豆包手机助手仅在有用户指令时才会开始截屏,且无法截屏三方应用Secure标记页面,上传至云端大模型的截屏仅用于视觉理解和推理,完成任务后不会存储在云端。

- 1《龙之剑:觉醒》公开预告视频 首个冒险地区曝光
- 2又一款经典童年网游!《飘流幻境》复刻重置,Q版画风超高自由度
- 3最近大家都在玩什么?盘点五款近期在Steam热度霸榜的网游,两款即将上国服!
- 4《仙境传说RO》IP新作MMO美服测试将于6月4日开启
- 5《剑灵》韩服直播爆料总结,NEO巅峰服武功体系改版究竟是什么?
- 6《洛奇英雄传:反抗命运》公开全景欣赏功能和成就系统
- 7魔兽故事:魔兽最虚伪的守护者!篡改史书洗白自己,亲手玩崩英灵殿
- 8《流放之路2》国服与国际服分道扬镳?游戏就不该服务于玩家?
- 9坚持11年帮助其它玩家打高难boss!如今宣布引退:再也没人召唤我了
- 10回忆录:以为白捡一个号,结果免费当“代练”一年多,这口气实在咽不下!

