更新：2025-03-05 21:29:19
在全国两会召开之际，中国证券报今起推出“寻擎记”特别策划，以“新质生产力发展图谱”为坐标，观察科技创新与产业创新的共振效应。通过具有代表性的企业样本，探寻它们在科技创新、模式革新、转型升级等方面的独到之处，挖掘企业如何在新质生产力的赛道上脱颖而出，成为行业发展的引擎。
“人工智能（AI）带来的安全问题，是数字安全的一部分。”全国政协委员、360集团创始人周鸿祎近日在接受中国证券报记者采访时表示，大模型快速迭代与成本降低，使得AI技术快速普及，成为带动千行百业生产力提升的新工具，但同时也带来AI幻觉、数据泄露、深度伪造等新出现的大模型应用风险。
“大模型的广泛应用正在构建网络安全新生态。”周鸿祎将大模型带来的安全问题分为基座模型的安全问题、客户端的安全问题、知识数据的安全问题、智能体的安全问题四个层面，给出的解决思路是“以模制模”——用安全大模型来应对人工智能产生的安全问题，为数字世界的新发展构建一个安全底座。
关注大模型幻觉
今年以来，大模型领域各家企业争相发布新品，大模型性能不断提升，同时使用成本大幅降低，“大模型幻觉”也成为公众关注的热点。所谓“大模型幻觉”是指大模型有时会编造出看起来合理或可信的信息，令人真假难辨。原因一方面来自大模型的运行原理，它通过海量的数据训练，生成出现概率最大的内容，另一方面也来自训练数据的局限性，训练数据本身也可能包含错误信息。
周鸿祎认为大模型的幻觉问题需要辩证看待。“幻觉是大模型的固有特点，没有幻觉的大模型不聪明。”周鸿祎在接受记者采访时说，大模型的幻觉使其拥有类似人们所拥有的想象力，可以创作剧本、撰写文章；在有些科学研究领域，大模型的想象力可以发挥关键作用。例如人工智能公司DeepMind开发的AI模型AlphaFold，能准确预测蛋白质与DNA、RNA等生物分子的相互作用，为药物研发和结构生物学带来革命性的进展。
“但同时，大模型幻觉如果出现在医疗、法律、金融、证券、生产制造等不能出错的环节，就会带来非常严重的影响。”周鸿祎说，随着大模型的发展从“不可用”“凑合用”，到“完全可用、能用”，需要采取措施防止大模型幻觉带来的安全风险。
周鸿祎表示，大模型应用软件可以通过链接互联网上的知识库来对信息进行校正，企业在应用大模型时可以接入企业专有知识库对幻觉进行校正。“大模型输出结果的差异来自其训练数据，把企业的重要资料放入知识库提供给大模型，大模型就可以依据知识库，知无不言，言无不尽了。”
解决大模型应用安全问题
近期，中国初创企业DeepSeek发布开源推理模型DeepSeek-R1，以极低的成本实现高性能表现，搅动了大模型市场格局，同时掀起了大模型领域的开源风暴。据不完全统计，已有数百家公司接入DeepSeek研发的大模型，其中包括国内三大基础运营商、国内外云服务企业、金融机构、手机厂商、车企等。大模型的应用已经逐渐渗透到内容创作、金融、电信、自动驾驶等领域。
大模型的快速推广使得大模型应用的安全问题日益突出。周鸿祎认为，在基座模型层面，要解决大模型产生幻觉的问题，可通过连接知识库来校正。在客户端层面，周鸿祎表示：“以后人们许多工作会和公司里的大模型交流互动，因此要防范客户端产生的安全问题，防止来自客户端的安全攻击。”
而当大模型的应用催生出更多智能体（Agent），人们将自己的一部分工作职责移交给智能体，则会带来新的安全风险。“假设以后我的智能体能操作电脑，比如给财务员工发送邮件让对方转一笔钱，岂不是带来风险。”周鸿祎称。此外，如果大模型对接的知识库包含庞杂的知识数据，其中涉及个人隐私、商业机密等内容，则存在知识数据层面的安全问题，需要防范信息泄露风险。
面对大模型应用带来的基座模型、客户端、智能体、知识数据四个层面的网络安全新挑战，传统网络安全模式的局限性愈发明显。周鸿祎的解决思路是“以模制模”，通过研发安全大模型，来管理企业知识库的使用、智能体的调用，并参与管理基座模型产生幻觉的问题等。
激发产业新活力
周鸿祎认为，大模型的开源策略将帮助传统企业降本增效，要推动大模型的应用。“AI要引发工业革命，一定要推动AI技术在企业、政府等各类场景深入地使用，进入千家万户，进入千行百业。”
大模型不仅拥有海量知识，还具备出色的对话和推理能力。以医疗行业为例，大模型可以成为个人的医学顾问或慢性病专家，为人们提供健康指导。对于传统医院，大模型能加速其数字化改造，如有医院利用AI帮助病人完成自动预约、处理病历传真，大幅缩短病人候诊时间。对于新兴的生物制造产业，大模型可作为研究工具，助力探索未知领域。
从挖掘生产力的角度看，大模型能在企业的决策、管理、业务流程等多个环节发挥作用。周鸿祎表示，大模型能为企业管理者提供决策支持，增强员工工作能力，改善内部管理和业务流程，提升产品与服务的质量，有效解决产业发展中的卡点和堵点，实现降本增效。
在企业落地方面，周鸿祎认为企业应用大模型要找准方向。首先是找场景，大模型适合解决企业特定专项、专业场景下的垂直问题，企业应结合自身业务，确定大模型的应用场景。其次，要打造专业知识库，收集企业内部的各种知识，让大模型更专业。最后股票怎么这么加杠杆呢，要打造智能体，并将其接入企业的OA办公流程，形成完整的应用体系。
文章为作者独立观点，不代表免息配资门户_股票网上配资网_联华证券观点
相关文章
