7 月 29 日发表在 Nature Health 的评论指出,AI 在医疗体系内外日益普遍,需要依据其影响和塑造个人健康轨迹的程度进行监管与评价。
这一观点把健康 AI 的风险从诊断准确率扩展到建议出现的频率、用户依赖程度、是否替代专业判断,以及系统能否持续改变行为。
其讨论基础包括医疗多模态模型、通用医疗助手和现实临床应用研究,但文章本身是一项治理主张,不是已经生效的法规。
同一个模型在娱乐问答、健康教育和治疗建议中拥有完全不同的实际权力,按产品名称分类会遗漏这种场景差异。
以决策权为中心的框架可能要求平台记录建议如何被呈现、用户如何行动以及何时转交人类专业人员。
这一信号强化 2030 年前的制度变量:机器获得能力之后,社会必须定义哪些决定可以委托、哪些只能建议、哪些必须保留给人。
- 决策影响力很难直接测量,用户行为也受到医生、家庭和经济条件共同影响。
- 该框架尚未成为监管标准,不同司法辖区可能继续沿用医疗器械分类。
- 过度扩大监管范围也可能把低风险健康教育工具与高风险诊疗系统混为一谈。
来源链接用于核查事实,不代表 2049.ai 认同来源机构的全部判断。