人工智能驱动的神经技术需加强全球监管,不仅在医疗,而且也在消费领域
人工智能驱动的神经技术发展如此之迅猛,联合国组织也在酝酿对其进行全球监管。
13日,联合国教科文组织(UNESCO)举办国际会议探索神经技术在解决难治性神经系统和精神障碍问题上的巨大潜力,并将开始制定针对神经技术的“通用道德框架”。
负责撰写UNESCO《神经技术伦理问题报告》的主要作者斯奎恰里尼(Mariagrazia Squicciarini)表示:“当你添加AI时,你就给神经技术注入了类固醇。”
神经技术,包括用于诊断和治疗大脑相关疾病的植入物,正在开始改善残疾人的生活,但对基于人工智能(AI)程序的投资增加,这些程序可以读取人们的思想并存储神经数据,这引起了人们对其使用的担忧。
为全球伦理框架奠定基础
神经技术可以帮助人类解决许多健康问题,但它也可能触及并操控大脑结构,生成与我们的身份、情感相关的信息。联合国方面认为,急需在全球层面为神经技术行业建立共同的伦理框架,此前UNESCO已经在人工智能领域完成了这一任务。
据悉,在13日举行的UNESCO国际会议上,各方将探索神经技术在解决难治性神经系统和精神障碍问题上的巨大潜力及其威胁。
该会议的最终目标是促进更好地理解与神经技术治理相关的伦理问题,为制定伦理框架做准备。该框架将由UNESCO的会员国审议并投票表决。有关程序将遵循类似于UNESCO为人类基因组(1997年)、人类基因数据(2003年)和AI(2021年)建立全球伦理框架的方法。
UNESCO认为,生成式AI有关最新发展,以及AI技术的普及和其对人类、民主和就业构成的风险,这些都证实了其制定的AI伦理全球标准的有效性和及时性。神经数据和AI的融合将带来更为严峻的挑战。
欧洲工商管理学院(INSAED)的决策科学和技术管理教授埃夫根尼奥(Theos Evgeniou)对第一财经记者解释道,生成性AI涉及人类语言和人类身份。而人类语言是帮助我们定义“我们是谁”和“我们做什么”的重要部分。因此,如果技术可以模仿那些能够定义人类身份认同的东西,就带来了新潜在风险和新可能性。
“譬如像ChatGPT这样的生成性AI技术是所谓‘根基模型’(foundation models)。人们可以在这种模型的基础上开发大量产品,并能够进行微调。换言之,它们不是单纯的产品,而是核心技术,是人们可以开发的产品之核心所在。这种核心技术本身已经非常强大,我们甚至无法预测人们将依靠它们开发出什么。我们也从未仔细考虑过如何管控和规范根基模型。这是一种新概念。”他解释道。
神经技术更是如此。神经技术涵盖任何用于“访问、监测、调查、评估、操纵和/或模拟动物或人类神经系统的结构和功能”的设备和程序。神经技术设备包括“可穿戴设备”,如智能手表和手环,以及非侵入式脑机接口,如机械肢体,及目前正在开发的用于治疗瘫痪等残障的脑植入物。
根据UNESCO给出的数据,全球每8人中就有1人患有精神或神经障碍,相关治疗费用占到发达国家总医疗支出的三分之一,在中低收入国家也成为日益沉重的负担。
世卫组织的数据则显示,到2050年,60岁以上人口预计将翻番,达到21亿,上述支出亦将持续增长。神经技术有降低癫痫、阿尔茨海默病、帕金森病和中风等神经系统障碍导致的死亡和残障的巨大潜力。
UNESCO认为,然而,如果没有伦理护栏,这些技术可能会带来严重风险,因为大脑信息可以被访问和操纵,威胁到基本权利和自由,而这些是人类身份、思想自由、隐私、记忆等概念的核心。
加剧全球不平等并产生新的不平等风险
UNESCO的数据显示,目前,50%的神经技术公司位于美国,35%位于欧洲和英国。由于神经技术可能引领新一代的“超级人类”,这将进一步扩大国家之间在教育、技能和财富方面的差距,使拥有最先进技术的人获得不公平的优势。
根据其研究人员估计,自2010年以来的10年间,对Onward Medical和马斯克的 Neuralink等神经科技公司的私人投资增加了二十多倍,到2020年达到73亿美元。到2027年,神经科技设备市场预计将超过240亿美元。
神经科学论文数量从2011年的57899篇增加到2021年的94456篇,而全球与神经技术相关的专利从2010年的418项增加到2020年的1531项。
纽约哥伦比亚大学神经技术中心主任尤斯特(Rafael Yuste)是一位领先的神经生物学家,也是“保护精神隐私”国际监管的倡导者。
他表示,在去年发表的四项研究中,并非所有研究都经过同行评审,“研究人员使用不需要神经外科手术插入的非侵入性设备,解码了人类志愿者大脑中的语音和图像”。
“所有四项研究都采用了先进的人工智能模型来解码大脑数据,”尤斯特说,“新算法将使人们能够解码高度敏感的信息,这使得保护心理隐私变得更加紧迫。”
他补充说,监管是必要的,因为“美国和加拿大的神经科技公司几乎无一例外地在其消费者用户协议中完全拥有客户神经数据”。
“我们需要保护精神财产——否则公司将开始储存大脑数据。他们今天可能无法解码它,但人工智能明天将使他们能够解码它。”他表示。
尤斯特自己的实验室已经解码并操纵了小鼠视觉皮层的神经处理,以便研究人员能够“植入幻觉”——让它们看到他们实际上没有看到的东西。
斯奎恰里尼表示:“我们并不反对神经技术或要求暂停研究,因为它具有减少神经系统疾病造成的死亡和残疾的巨大潜力。但我们需要一种全球协调的神经技术监管方法,不仅在医学领域,而且在消费市场。”
要看到的是,神经数据,即捕捉个体反应和基本情绪的数据,在消费市场上需求旺盛。与社交媒体平台收集的数据不同,大部分神经数据是在无意识状态下生成,因此无法许可其使用。如果敏感数据被提取,然后落入坏人之手,个体将承受其有害后果。
UNESCO并表示,在儿童或青少年仍处于神经发育重要阶段时植入脑机接口可能会干扰大脑的“正常”发育。它可能会改变年轻人的思维,影响人格塑造,并产生长期甚至永久的影响。
能源转型加速推进,专家建议深化全球清洁能源产业链合作
今年是联合国2030年可持续发展议程的中期评估年,2030年可持续发展议程落实进程已经过半说到发电企业的贮灰场,许多人会想到巨大的渣土山或尘土飞扬、寸草不生的场景。但在内蒙古通辽发电总厂150兆瓦贮灰场,第一财经记者却见到了另一番景象:6500余亩的“草地”上,一片片光伏板连结成“蓝色海洋”。光伏板下绿草如茵,板上发电,板下牧羊。锤子财富2023-09-11 12:18:100000以内部驱动为主的日元贬值,外溢的风险更大
无论是看难以回调的美元利率所叠加出的不小压力,还是看日本政府对本币走势表现出的基本态度,抑或是日本经济基本面所可能形成的支撑力度,日元的确还存在着继续走弱的空间。0000国家金融监督管理总局官方微信公众号今日上线
今日,国家金融监督管理总局正式挂牌,官方微信公众号“国家金融监督管理总局”同步上线。今日,国家金融监督管理总局正式挂牌,官方微信公众号“国家金融监督管理总局”同步上线。新起点,新征程,新使命!“国家金融监督管理总局”官方微信公众号将以提供全面准确的金融监管信息服务为己任,加强与社会各届和广大金融消费者的沟通联系,不断提高信息发布的时效性和权威性,走好网上群众路线,助力中国金融业高质量发展。0000发改委:研究制定政策措施,促进低收入群众增收,扩大中等收入群体
国家发展改革委将会同有关部门,深入调查研究,总结推广居民增收的有效途径,研究制定政策措施,促进低收入群众增收,扩大中等收入群体。为贯彻落实中共中央政治局会议关于扩大中等收入群体的部署要求,国家发展改革委就业收入分配和消费司组织召开部门座谈会,研究讨论促进城乡居民增收的政策举措。有关部门相关司局参加会议。0000北向资金今日净买入23.42亿元 天齐锂业、迈瑞医疗等获加仓
净买入额居前三的是天齐锂业、迈瑞医疗、宁德时代,分别净买入2.7亿元、2.19亿元、1.86亿元。12月6日,截至A股收盘,统计数据显示北向资金合计净买入23.42亿元,其中沪股通净买入1.09亿元,深股通净买入22.33亿元。前十大成交股中,净买入额居前三的是天齐锂业、迈瑞医疗、宁德时代,分别净买入2.7亿元、2.19亿元、1.86亿元。锤子财富2023-12-06 20:56:470000