“当下机器学习的主流呈现出‘黑箱’的特点，普通用户很难观察到数据训练的中间过程，这样的特征导致人工智能（AI）对我们而言处在不可知的状态。”在未来论坛日前发起的AI伦理与治理系列论坛上，清华大学人工智能国际治理研究院副院长梁正说。
这个“黑箱”的存在，让AI的“心”如海底针般难以捉摸，不仅给人与机器的交流带来了很大困难，也给AI的广泛应用埋下了隐患。
“人与人之间要想协同，就得有共同语言，人和机器也是同理。”清华大学计算机系长聘副教授崔鹏说，“如果机器的输出人不懂，人的输出机器不懂，导致的结果就是人和机只能取其一，要么就全信机器，要么就全不信。”
这种“1+1=1”的局面非常尴尬。因为在很多风险敏感型的领域，如医疗、军事、金融、工业等，人不可能完全信赖一个机器的决策。这样AI走向各行各业的步伐就会受到严重阻碍。
“AI的‘黑箱’问题，不可避免会带来难以控制、歧视偏见和安全风险，甚至会打击我们对算法本身的信任。”梁正说，“因此，算法的可解释性对AI的应用至关重要。”
当用户遇到AI时，一定期待它是可靠的：不会出错，没有风险，不会损害自己的利益或安全。而这种信任，只能来自于对AI算法内在机理的理解和认同。
在美国司法系统中，对犯人进行减刑或释放的重要参考指标之一，就是预测此人释放以后的二次犯罪率。在AI系统里，在各方面相差不大的两个犯罪嫌疑人，只因肤色不同，最后的判定是黑皮肤犯罪嫌疑人的二次犯罪率比白皮肤的高10倍以上。
为什么会出现这种情况呢？有专家认为，在一些国家，肤色跟收入水平表现出强关联，而低收入则会导致高犯罪率。这些因素导致AI基于历史数据进行预测时，会得出“歧视”的结果。
在这个案例中，人们出于常识，还有可能分析出问题的根源所在。但更多时候，AI出错的原因很难追溯。
“现在的AI系统，因为其本质上是‘黑箱模式’，即使知道最后输出的结果是错的，却没有办法回溯究竟是哪个环节出了问题。”崔鹏说，“由于这种‘不可回溯性’，导致了即使模型出错，也不知道板子要打到谁身上。”
据梁正介绍，目前世界各国在算法治理方面有着不同的探索，也有一定的共性和经验。欧盟的算法治理是自上而下的，强调“透明性”和“问责性”。也就是说，一方面确保决策结果可以被人类（包括监管部门、社会公众）理解、追踪；另一方面建立问责机制、审计机制以及风险损失的补救措施。美国则采用了另一条路径，采取自下而上的分散化、市场化的治理路径。
梁正指出，当前我国对算法治理路径的探索已经初具体系。未来算法治理有比较明确的两大方向：第一是可问责性，第二就是可解释性。
崔鹏则提出，科学家应当致力于通过把“因果”引入机器学习，推动AI治理实现从“知其然”到“知其所以然”的跨越。
“‘然’就是数据里的关联，‘所以然’是数据里的因果。”他说，“因果启发的机器学习可能成为新一代AI的突破口。”
他指出，AI的算法设计受到设计者自身伦理修养、社会责任意识等方面的影响。因此，可理解、可信赖的AI，有赖于设计者自身的信念和操守：增进人类福祉、尊重生命权利、保护个人隐私及其他权利等。与此同时，还需要建立数字时代、人工智能时代的社会信任机制，通过社会理性或集体理性来促进AI技术健康发展。
“算法的‘黑箱’特征和复杂性不能成为逃避治理的借口。”梁正说。看懂黑箱里的机器心——人类正在为之奋斗。
过去3年，我主要从事“东数西算”产业园区规划及建设、数字经济项目落地等工作。面对各项具有挑战性的工作，我和同事们拿出了前所未有的主动性和创造力，参与庆阳“东数西算”工程的建设，见证着“东数西算”从一个概念变为一座座数据中心、一个个落地的企业……
为优化我国算力资源空间布局，加快打造全国算力“一张网”，构筑数字经济发展新优势，我国在京津冀、长三角、粤港澳大湾区、成渝、内蒙古、贵州、甘肃、宁夏等8地启动建设国家算力枢纽节点，并规划了10个国家数据中心集群，“东数西算”工程全面启动。
新疆和田沙漠温室试种快速繁育水稻获得成功，证实了在沙漠温室环境下进行作物快速繁育是完全可行的，为实现沙漠温室一年多次加代选育提供了有效手段。
近日，我国多地出现极光现象，引起人们广泛关注。极光现象与地磁暴活动密切相关。地磁暴以及近期频繁出现的太阳耀斑为什么发生？对普通人的生活有影响吗？
近年来，我国生物多样性保护已取得显着成效。在法律法规方面，我国形成以环境保护法、野生动物保护法、森林法、野生植物保护条例、自然保护区条例等为基础的生物多样性保护和可持续利用法律法规体系。
“莱伯氏先天性黑蒙症10型（LCA10）”是一种较罕见的遗传性眼病，患者会因视网膜病变而失明。CEP290基因发生突变的人患有一种较罕见的遗传性眼病，即“莱伯氏先天性黑蒙症10型”，患者会因视网膜病变而失明。
5月9日，在山东青岛拍摄的“深蓝2号”大型智能深海养殖网箱（无人机照片）。5月9日，在山东青岛拍摄的“深蓝2号”大型智能深海养殖网箱（无人机照片）。当日，山东青岛造船厂建造的“深蓝2号”大型智能深海养殖网箱实现陆地完工。
前不久，“面包店的香味是假的”话题冲上热搜，更带火了“食物香氛”这个概念。不少网友诧异：食物香味还能“造假”？
10日上午，“十三五”国家重大科技基础设施“空间环境地基综合监测网”（子午工程二期）重大设备之一——行星际闪烁监测望远镜顺利通过工艺测试。这标志着子午工程二期项目具备迎接工艺验收的条件。
5月10日，一场代号为“应急使命·2024”的超强台风防范和特大洪涝灾害联合救援演习在浙江金华等地举办。演习模拟超强台风“海神”正面登陆浙江沿海，贯穿浙江全境，钱塘江流域发生超历史特大洪水……
作为一个国家科技水平和综合国力的重要体现，航空航天技术的发展引领带动了一系列高新技术的快速发展。2021年1月，阜航麦1号正式获得安徽省农作物新品种审定证书，成为安徽省首个利用航天诱变技术自主育成的小麦新品种。
（记者宋晨）5月9日，我国在西昌卫星发射中心使用长征三号乙运载火箭，成功将智慧天网一号01星发射升空，卫星顺利进入预定轨道，发射任务获得圆满成功。智慧天网一号01星作为我国首颗中轨宽带通信卫星，包含技术验证A星与配试B星，由中国航天科技集团有限公司上海航天技术研究院抓总研制。
近日，该所作物基因编辑技术中心与中国科学院动物研究所合作，建立了首个黍稷遗传转化体系与基因组编辑系统，并发布了目前最高质量的黍稷参考基因组，为未来黍稷的分子育种和培育突破性品种提供了理论基础和技术支撑。
生态保护补偿是指通过财政纵向补偿、地区间横向补偿、市场机制补偿等方式，对按照规定或者约定开展生态保护的单位和个人予以补偿的激励性制度安排。
在诸多产业领域，尤其是人工智能、未来产业等新赛道，优秀青年科技人才正加速成为科技创新的主力军，他们大展拳脚、加速奔跑，为加快实现高水平科技自立自强注入澎湃力量。
大食物观要求从人民群众需求出发，统筹各类食物资源，协调生产、流通、消费各环节，让老百姓不仅能“吃得饱”，还能“吃得好、吃得健康”。
科技创新是发展新质生产力的核心要素。从世界各国现代化发展历程看，许多国家经历了工业化、城市化的快速发展后，传统产业资源、能源成本快速增加，低成本竞争力逐渐衰弱。
日前，文昌航天发射场（以下简称“文昌发射场”），再一次令世人瞩目。站在这片生机勃勃的航天热土上，凝望长征五号遥八运载火箭托举嫦娥六号奔月的壮美轨迹，人们挥舞国旗、高声呐喊，满眼皆是对星辰大海的美好向往。
只有用自己的手攥紧中国种子，才能端稳中国饭碗，才能实现粮食安全。南繁基地是我国农业科研和种业振兴不可替代的战略资源，为落实中央关于种业振兴重要部署，今年发布的《国家南繁硅谷建设规划（2023—2030年）》明确，
(责任编辑：)关键词: