据英国《金融时报》报道 ， 一组顶尖科学家和医学统计学家上周五警告称 ， 在某些生物医药领域使用人工智能技术会得出一些不准确的结论 。
“使用机器学习技术对大数据进行分析得出的研究结论中 ， 有很多都无法获得我的信任 。 ”美国莱斯大学贝勒医学院副教授基尼维拉·艾伦（Genevera Allen）在美国科学促进会年会上警告说 。
机器学习已经被用于研究科学和医学数据与某些现象之间的关系 ， 例如基因与疾病之间的关联性 。 在精准医疗中 ， 研究人员会寻找拥有相似DNA的病人 ， 让治疗方案能够瞄准特定的致病基因 。
“很多技术都是为了进行预测 。 ”艾伦说 ， “但从来没有返回过‘我不知道’或者‘我没有发现任何东西’这样的结论 ， 因为它们设计过程中就没有考虑这种情况 。 ”
她不太愿意指出具体的案例 ， 但却表示 ， 机器学习对癌症数据得出的研究结论就是很好的例子 。
“有很多案例都无法重复 。 ”艾伦说 ， “一项研究中发现的集群跟另外一项研究中发现的截然不同 。 为什么会出现这种情况？因为当今的多数机器学习技术都会说：‘我发现了一个群体 。 ’但有的时候 ， 如果换一种说法反而更有帮助 ， 可以说：‘我认为其中一些确实是被分成一组 ， 但我不确定另外一些 。 ’”
一旦机器学习发现病人基因与疾病特征之间存在特定联系 ， 人类研究人员可能就会对相应的发现提供合理的科学解释 。 但这并不意味着这些发现就是正确的 。
艾伦说：“你总能找到理由来说明为什么某些基因被分成一组 。 ”
计算机科学家直到最近才开始意识到这个问题 ， 这可能导致医学研究人员走上错误的道路 ， 还会浪费资源来确认无法重复的结果 。
艾伦和她的同事正在努力改进统计技术和机器学习技术 ， 好让人工智能可以对自己的数据分析展开批判 ， 并指出某些发现有多大概率是真实存在的 ， 而非随即相关的 。
【科学家：生物医药研究使用AI技术或导致结论不准确】“有一种想法是专门扰乱数据 ， 看看结果是否会保持不变 。 ”她说 。 (书聿)
推荐阅读
- 研究称机器人能对其他机器人表现＂同理心＂
- 日本研究小组用AI分析地球磁场变化 预测自然灾害
- 科学家打造新型软体机器蜘蛛 灵活性高用途广泛
- AI研究“重男轻女”要不得！亚马逊被迫解散研究团队
- 中国研究人员设计出细胞运输机器人
- 第一次约会注意事项 第一次约会9大注意事项
- 科学家研发“自我修复”机器人 从动物界获取灵感
- 用于解毒血液 科学家开发出隔膜包裹“机器人”
- 苏州大学文学院研究生在哪个校区
- 研究展示可剥生菜的机器人 让人类更接近自动化农场