出品 | 搜狐健康
作者 | 周亦川
编辑 | 袁月
据Techtimes等媒体报道，近期ChatGPT公布新规则，停止提供医疗、法律及金融建议。OpenAI 解释，政策变化旨在“增强用户安全并防止潜在伤害”。
专家解释，AI给用户带来有效即时反馈的同时，也带来了诸多安全隐患。医疗方面它会列举数据库中各种信息但不加甄别，例如输入“我身上有个肿块”，反馈就含有“恶性肿瘤”词条，带来不必要的恐慌；AI更无法根据用户状态综合分析，咨询用药给出的具体药名及用量将带来过度用药风险。
用户向AI咨询的内容会成为大数据的一部分，因此上传的病历、合同等敏感信息很可能通过某种方式泄露。
搜狐视频关注流播主鲍宇克医生（@你不懂肿瘤）在接受搜狐健康专访时强调，AI不会反驳用户，不会坚持自己的观点。因此当用户使用AI得到不想要的答案时，可能会坚持自己的观点，甚至是一些歪曲的佐证，一些极特殊不具代表性案例说服AI。片面信息不仅“说服了”自己，还会进入数据库让其他用户得到离谱的建议，例如“男人得了卵巢癌”。
AI为医疗开拓了无数的可能性，也带来诸多安全隐患，如何做到高效安全应用而不失控，是AI研发公司和使用端的医疗人员面临的重大课题。
