业务动态

警惕DeepSeek的AI幻觉：法律人使用AI生成工具时要特别慎重

近年来，法律科技飞速发展，基于大语言模型的工具不断涌现，为律师、法务人员带来了前所未有的效率提升。尤其是国产大模型如DeepSeek，在中文语境下表现出色，受到许多法律从业者的关注和尝试使用。

但在热潮之下，也暗藏隐忧。近期多名律师在使用DeepSeek过程中发现，其在部分法律咨询生成中存在“虚构法条”的情况，即模型生成了现实中并不存在的法律条文或解释性规定。这类AI“幻觉”极易混淆视听，若未经审查即用于法律实务中，可能导致严重后果。

一、什么是AI幻觉？

AI幻觉（hallucination）是指大语言模型基于训练数据推演出的看似合理、实则虚假的内容。由于模型并不真正“理解”法律条文，而是通过语言关联进行“预测”，因此在缺乏足够训练语料或理解不准确时，极易创造出貌似真实的伪造法条、虚构案例、甚至虚假判例依据。

二、DeepSeek中的幻觉现象尤需警惕

DeepSeek作为当前领先的国产开源模型，在中文环境中的表现令人印象深刻。它可以流畅生成合同条款、法律意见、甚至类判决文书。然而，在生成过程中过于自信的“编造”行为，也令人担忧。

例如，在以下使用场景中，DeepSeek容易出现幻觉：

生成法律依据时杜撰不存在的条文：如“《税收征管法》第143条规定……”——但事实上法条不存在；

制造“伪解释”或不存在的司法解释；

引述“最高院判例”时引用虚构案件名或不存在的裁判理由；

将国外法中的概念“移植”为中国法中的“条款”，造成误导。

三、法律工作对“真实性”有极高要求

不同于其他领域内容创作，法律行业对“真实性、准确性、权威性”的要求极其严格。AI模型的小小“幻觉”，在法律实务中可能就是误导当事人、误用法条、误判责任，甚至引发法律责任。

在法条、解释、案例适用方面，一旦律师因使用AI生成内容而引用了不存在的依据，即便“主观上没有故意”，也极易被认定为失职或疏忽。

四、建议：把AI当工具，而非权威

对法律从业者而言，AI生成内容可以作为辅助创作工具，但绝不应作为唯一或直接的法律依据来源。使用DeepSeek或任何模型时，建议：

对生成的法律条文“核查原文”，避免被伪造法条迷惑；

不轻信AI生成的判例与解释名目，应自行检索中国裁判文书网或北大法宝等权威数据库；

在撰写法律意见、合同、起诉状等文书时，AI内容应仅供参考，由专业人员主导、审核、修订；

明确对客户披露AI辅助信息的使用背景，避免客户误以为AI所述即为权威法律解释。

五、结语：AI在进步，责任不变

我们乐见AI技术在法律服务中的应用不断拓展，但同时要清醒地认识到：AI不是法律人责任的替代者，而是责任的放大镜。

DeepSeek等国产大模型的表现可圈可点，但在法律专业领域使用，仍需保持专业判断、保持敬畏之心。警惕AI幻觉，是每一位法律从业者在数字时代的职业底线。