世界顶尖科学家畅谈算法公平、色觉障碍

作者:丁超逸、曾译萱、殷梦昊摄影: 视频: 来源:《复旦》校报发布时间:2024-11-13


还有什么工作不可能被AI取代,什么工作可以由AI催生?

面对这个具有普遍性的困惑,计算机科学领域杰出学者乔恩·克莱因伯格(Jon Kleinberg)坦言,“我不知道”。

2008年我们不会想到人工智能将会在视觉分析、语言处理上有那么好的发展,2016年我们也未曾料到人工智能可以和人进行自然的对话。”同样惊诧于AI的迅猛发展的他始终认为,这些科学活动都是人类功能的延伸,“如果没有人类的观察和思考,我们就不可能推进这些工作。”

1021日,第九期浦江科学大师讲坛在PG电子麻将胡了2怎样才能赢相辉堂举行,在搜索引擎算法和社交网络底层架构等前沿领域取得开创性成就的康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格(Jon Kleinberg)和视觉科学领域卓越的科学家之一、约翰斯·霍普金斯大学医学院分子生物学与遗传学、神经科学和眼科学讲席教授杰瑞米·内森斯(Jeremy Nathans)联袂开讲。

日前,他们在上海被授予2024世界顶尖科学家协会奖。这是2024世界顶尖科学家协会奖获奖者来沪学术交流活动首场活动,他们将出席1025日在2024世界顶尖科学家论坛开幕式上举行的颁奖典礼。

算法与生俱来就有偏见

需关注公平性与多元化

算法视角下的人类世界是怎样的?如何确保算法的公平性?未来人工智能是否会完全替代人类行动?克莱因伯格以“算法视角下的世界:计算与高风险决策”为题,对这些问题进行了回答。

克莱因伯格曾对小世界理论和万维网搜索算法做出开创性工作。他25岁拿下麻省理工学院博士,28岁发表关于“外部网络的HITS算法”的论文。他和各个学科领域开展合作,希望将人工智能更好、更善、更公平的应用于人类社会。如今,他思考并推动算法公平,尤其是当算法辅助人类做出决策时,如何定义和实现公平。

“算法与生俱来就有偏见。在设计算法时,必须考虑到多元化的公平标准,并开发新的技术方法。”多年来,克莱因伯格一直致力于探索如何定义及实现算法公平,尤其是在算法辅助人类做决定的场景。在他看来,公平不只是是一个单一标准,而是涉及多个维度。“需要考虑不同的度量标准,确保算法在各个层面上都是公平的。”

有听众提出隐忧——如何在研究中考虑到没有移动设备、无法接入互联网的人?而世界各国人们常用的社交平台不同,又该如何得到更为客观准确的数据和分析?克莱因伯格对这一关切表示赞同,认为研究者们可以从政府、非营利组织、援助机构等渠道获得多元类型数据,开展物理世界和数字世界的综合比对,同时不能只关注某个特定的平台和地点,要全面关注人类对互联网的使用。

“我们必须思考算法对人类生活和后代可能产生的影响。”克莱因伯格强调,除了偏见,算法还可能存在文化单一问题。“如果我们都使用同一种算法去做决定,是否会导致做出的决定高度趋同,导致我们的文化也是高度趋同?”在他看来,人类在使用算法工具的时候,设计者、使用者、研究者都需要保持一定的多元性。

色觉障碍如何产生?

他在分子层面阐明原因

为什么人们能看见颜色?为什么有的人难以分辨红色和绿色?为什么男性比女性更容易患有色盲症……杰瑞米·内森斯(Jeremy Nathans)以“色觉、X染色体失活与女性优势”为题的分享,对这些有趣的问题进行了回答。

内森斯曾揭示人类颜色视觉的分子基础,通过基因研究阐明了视网膜发育的机制及其与遗传性眼病的关系。同时,他还探索了基因治疗在视觉系统疾病中的潜力,为视觉科学的研究和临床应用开辟了新的方向,也改变了人类对如何“看”世界的理解。

从分子基础出发,内森斯开始探究视觉基因的相关疾病。

1794年,英国化学家约翰·道尔顿(John Dalton)第一次发现了色盲症。正常情况下,人类是“三色视者”,其视网膜上的视锥细胞存在三种感光色素,分别能够识别红、绿、蓝三原色。色盲患者则通常缺失或异常表达其中一种或多种色素,不能辨别某种或某几种颜色,包括人们所熟知的红色盲、绿色盲和较少见的蓝黄色盲。

“我相信听众中一定有人色觉跟其他大多数人不一样,这种色觉不一样是由基因来决定的。”内森斯表示,基因决定了人们对长波和中波光线的接收情况。在进化的过程中,编码红色和绿色色觉的基因到了一条染色体上,这一基因重组事件,也是人类色觉变异的根源。

在了解人类颜色视觉基因层面工作机制的基础上,内森斯和合作者进一步探索创新,在一项小鼠遗传和行为研究中,对具有基因缺陷的小鼠进行了基因改造,使得本来只具有长波、中波、短波色素基因中的一部分的二色视觉小鼠能够看到原来看不到的色彩,通过三色视觉测试。

这一惊人发现凸显了视觉系统的非凡可塑性。有听众提问:X染色体失活能够应用于基因治疗之中吗?”内森斯表示,雌性动物X染色体失活机制有望在基因缺陷疾病诊疗方面解决一些问题,理论上,人们可以通过让让失活的基因重新表达,将突变的基因沉默,但如果一条染色体失活,可能会影响其他疾病的表达。“科学问题就像洋葱,揭开一层还有一层,”他强调,“尽管我们做了多年研究,但还是不了解具体机制,仍然需要做更多工作。”

 

 


制图:实习编辑:责任编辑:

相关文章