我给AI的权限,比给我助理的还大。助理能看的文件,AI都能看;助理不能碰的财务系统,AI也能读。但有一条我守得很死:AI不能签字,不能直接动钱。这不是技术问题,是责任归属问题。
AI权限管理,本质上是把“谁能代表公司做不可逆动作”这件事,用技术手段重新划一遍边界。它跟信任无关,跟制度有关。
我把AI权限切成四档,这个框架来自我自己的实践,不是行业标准,你参考逻辑就行。
第一档,只读不写。AI能看聊天记录、邮件、文档,但不能发任何东西。这是我给AI的默认档位。
第二档,能写不发。它可以起草回复、生成报告、整理会议纪要,但发出前必须经我确认。目前我这边80%的AI协作停在这一档。
第三档,能发不签。它可以代替我发送标准化的通知、提醒、日程确认。但涉及金额、承诺、法律效力的内容,不在此列。
第四档,人机双签。这是AI权限的天花板。它和我同时确认,才能触发一个不可逆的操作。
注意,第四档不是“AI签字”,而是“AI触发+人确认”。最终的法律责任主体仍然是人。据2024年欧盟《人工智能法案》,涉及关键基础设施、就业、信贷等领域的AI系统被列为高风险,要求人类监督和日志留存。国内2023年发布的《生成式人工智能服务管理暂行办法》也明确,服务提供者要对生成内容负责。换句话说,AI没有责任能力,只有授权人有。
我之前的说法是“可逆的给AI,不可逆的给人”。这话在多数场景下成立,但不是铁律。
比如客服场景,AI自动回复一条退款确认,金额50块,严格说不可逆,钱已经退了。但这类操作在制度上可以给AI,因为单笔金额小、规则明确、事后可追溯。
反过来,有些操作看起来可逆,比如AI修改了一行代码,但如果是生产环境的数据库迁移脚本,改错了可能回滚都来不及。
所以更准确的原则是:权限给到哪一档,取决于三个变量——操作的可逆性、单次影响的上限、以及事后追溯的难度。三个都低,可以放;有一个高,就得收。
我见过太多公司,一上来就给AI开最高权限,结果一封邮件发错、一笔款付错,损失比省下的人力成本大十倍。也见过把AI管得死死的,最后AI就是个高级搜索框。这两种极端,都是没想清楚边界。
有读者问:小公司有必要搞这么细吗?我的观察是,越小的公司越要搞。大公司有冗余,错一次可能只是季度奖金少发点;小公司错一次,可能现金流就断了。权限设计不是大厂专利,是生存底线。
但这话也有例外。如果小公司业务极其单一,比如就一个AI自动回复客户咨询,那确实不需要四档框架,一个“能发不签”就够了。别为了框架而框架。
涉及财务、法律、人事这些领域,AI权限设置必须遵守行业规范。
财务方面,财政部2023年发布的《会计信息化工作规范》提到,单位应当建立会计信息系统操作权限管理制度,关键操作要有复核。AI如果接入财务系统,同样适用。
法律方面,AI不能代替律师出具法律意见,不能代替法定代表人签署合同。这不是技术能不能的问题,是法律认不认的问题。
人事方面,AI可以筛选简历,但录用决定必须由人做出。2024年国内已有案例,某公司用AI筛简历被质疑就业歧视,最后因为无法解释算法逻辑而败诉。
所以我的做法是:AI权限表每年至少过一遍法务和财务,确认没有越界。
三个常见问题。
Q:给AI权限太大,数据泄露怎么办?
A:数据分级。公开数据随便读,机密数据脱敏读,核心数据加密读。权限不是一刀切,是分层过滤。
Q:AI犯错谁负责?
A:谁授权谁负责。你给AI开了付款权限,它付错了,你不能说“是AI干的”。在制度上,AI没有责任能力,只有授权人有。
Q:小公司有必要搞这么细吗?
A:看业务。单一场景不用,多场景交叉就必须。核心原则是:不可逆的操作,人必须在场。
AI不是工具,也不是人。它是介于两者之间的存在。对待它,既不能像对待机器一样随意,也不能像对待人一样信任。它需要的是一套清晰的规则。
这套规则的核心,不是技术,是你对自己责任的认知。你愿意为AI的多少行为负责,你就给它多少权限。
多一分是妄,少一分是废。
一切皆如,如是而已。
给AI划权限这件事,本质是给公司划一道责任边界。划得太松,出事时找不到人担;划得太紧,AI就退化成搜索框,你付的算力钱等于白花。值得先做的是三件事:把「能读、能写、能签字」分成三档;每一档都留一条可回退的路;出错时的责任人写清楚——是人,不是模型。这三条立住了,权限才敢往下放。
一切皆如