业界“冷”思考：当“黑箱AI”遇到“医药未来”

“现在的深度学习大多是一种黑箱模式，它的可解释性或透明性还不高。因此在临床应用时，医生可能会觉得可靠性不高。”西安交通大学数学与统计学院助理教授杨燕24日在沪直言人工智能(AI)的“弱点”。

当天，2023世界人工智能大会青年科学家论坛暨“新青年·星思享——青年科技论坛”在上海科学会堂举行，青年科学家们结合各自领域冷静思考当下的人工智能发展。

8月24日，2023世界人工智能大会青年科学家论坛暨“ 新青年·星思享——青年科技论坛”在上海科学会堂举行。杨浦东 摄

杨燕说，深度学习从某种程度上说降低了从业门槛，很多人可能并不掌握专业领域知识，只是“喂”数据，这会导致“仅仅把精度做得很高，但不一定可应用”等问题。

浙江大学软件学院青年科研人员彭思达认为，人工智能所带来的隐私问题是一个特别需要关注的方面，之前ChatGPT就出现过信息泄露的问题。因此，业界需要思考如何对这些掌握大模型的公司进行更规范化的约束；尤其是在医疗领域，要关注如何让病人的隐私不被泄露。

要训练模型，需要给它“投喂”数据。上海科技大学生物医学工程学院常任轨助理教授、研究员钱学骏表示，在医学影像智能诊疗领域，医学图像往往很难达到自然图像的训练数量级，“在医疗领域，即使采到也不一能存下来，存下来也不一定能共享。层层下来，真正能用的只有小样本。”

但他指出，通过传统的后处理方式获得高质量的医疗图像往往非常耗时，人工智能打开了新思路，让“鱼”和“熊掌”(时间)可兼得，“有效利用预训练模型与微调策略将在生物医学领域发挥重要作用。”

同济大学教授何良华认为，人工智能对“药”的影响可能比对“医”的影响更大。

他指出，在“医”上，人工智能近年主要体现为辅助医疗，要想完全实现智慧医疗，还有一段路要走。而对制药而言，从制药材料的筛选，到药物研发中的分子结构建模，人工智能影响深远。