AI热带来的挑战和隐忧

  湖北省武汉灏存科技有限公司人形机器人运动神经中枢系统界面(新华社/图)

  据质量,可以有效降低这些潜在风险,而这不仅不会阻碍人工智能的发展,反而有助于技术的良性迭代。

  对此,麦家建议,应尽快完善法律法规,对AI创作的商业应用、署名权归属等问题作出规范。舒勇也呼吁文艺工作者积极参与AI伦理讨论,推动形成更加公平、透明、负责任的创作环境,确保技术发展不以牺牲人文价值为代价。

  近日,在清华大学举办的2025国际基础科学大会新闻发布会上,图灵奖得主、中国科学院院士姚期智指出,当前人工智能的发展更类似一门实验科学,尽管数据和成果层出不穷,但对其本质和运行机制的理解仍较为初步。他呼吁加强人工智能基础理论研究,推动算法优化与原理探索,为技术演进提供更为坚实的科学支撑。

  姚期智特别强调了AI安全问题。他指出,随着AI在关键领域的广泛部署,技术风险如“AI幻觉”等现象可能带来无法承受的后果。因此,必须从源头理解并应对这些潜在风险。他认为,安全性不应被视为技术发展的约束,而是推动AI走向成熟与商业成功的关键因素。设计出更安全的AI技术不仅有助于防范滥用,更将成为市场竞争中的核心优势,同时也将反哺基础科学的发展。

  在2025年浙江经济政策新闻发布会上,多位参会者表示,科技立法的完善是推动新兴技术发展的关键。我国科技立法已经涵盖了多个前沿领域,如信息技术、生命科学、能源技术等,并且通过专项法律法规为各类科技创新提供了明确的制度支持。然而,随着人工智能、自动驾驶等新兴技术的快速发展,现有法律框架面临着适应性和前瞻性的挑战。尤其是在生成式人工智能的应用方面,AI生成的作品在知识产权归属、开源模型使用边界、生成物的版权问题等方面都存在许多争议,需要有针对性的法律规范来明确相关责任和权利,确保创新成果的保护和公正分配。

  知识产权保护是科技创新的核心。随着我国科技创新步入空前活跃期,专利申请数量激增,涉及的技术和创新领域也日益复杂。与此同时,侵权案件的频发和知识产权治理路径的挑战,使得现有的保护机制面临更大压力。例如,大模型生成作品的知识产权归属问题仍在司法实践中不断探索。2024年,最高人民法院审理了一起专利权纠纷案件,推进了科技成果权属的明确与司法定责,这为科研主体提供了更有保障的创新环境。此外,司法机构在推动职务科技成果赋权和激励制度改革方面也起到了积极作用,促进了产学研的深度融合,为科技成果的转化提供了更多保障。

  北京大学党委常委、副校长董志勇认为,面对人工智能带来的新技术和新治理挑战,监管体系也需同步优化与迭代。要完善算法伦理、数据隐私、技术安全等方面的法律规制,明确各类主体的责任边界,建立多元共治的监管协调机制。推进跨部门、跨行业的政策协同,在制度层面为人工智能创新发展提供可预期的政策环境。同时,积极参与全球规则构建与技术标准制定,推动形成开放、包容、审慎的国际治理格局,确保人工智能发展方向与社会整体利益相一致。

  人工智能的迅速发展,虽然带来了前所未有的技术突破,但随之而来的挑战和隐忧也让我们对其未来路径进行更加深刻的思考。从技术的安全性到内容的真实性,再到法律与伦理的探索,如何在推动创新的同时确保其健康发展,已成为全社会关注的焦点。