计算机应用

作者：徐月梅, 胡玲, 赵佳艺, 杜宛泽, 王文清

单位：1.北京外国语大学 信息科学技术学院，北京 100089；2.北京大学 软件与微电子学院，北京 102600

关键词：大语言模型,风险挑战,技术监管,应用前景,通用人工智能

基金：中央高校基本科研业务费专项(2022JJ006)

针对大语言模型（LLM）技术的快速发展，剖析它的技术应用前景和风险挑战，对通用人工智能（AGI）的发展和治理有重要参考价值。首先，以Multi-BERT（Multilingual Bidirectional Encoder Representations from Transformers）、GPT（Generative Pre-trained Transformer）和ChatGPT（Chat Generative Pre-Trained Transformer）等语言模型为代表，综述LLM的发展脉络、核心技术和评估体系；其次，分析LLM现存的技术局限和安全风险；最后，提出LLM在技术上改进、政策上跟进的建议。分析指出作为发展阶段的LLM，现有模型存在非真实性及偏见性输出、实时自主学习能力欠缺，算力需求庞大，对数据质量和数量依赖性强，语言风格单一；存在数据隐私、信息安全和伦理等方面的安全风险。未来发展可从技术上继续改进，从“大规模”转向“轻量化”、从“单模态”走向“多模态”、从“通用”迈入“垂类”；从政策上实时跟进，实施有针对性的监管措施，规范应用和发展。

来源：2024年第6期

《计算机应用》期刊编辑部

查看计算机应用杂志2024年第6期