首页 / 高级课 / 工具接入

L310 分钟读完高级安全

权限与安全:给 AI 划边界

给 AI 接上工具之后,你迟早会听到这样的消息:它把通知发错了群,把一条退款单提交上去了,把表格里三行数字改乱了。

前两课讲的是怎么让 AI 能干活。这一课讲另一半,也是更要紧的另一半:它力气越大,你越要先划好边界。不划边界,等于把店门钥匙交给一个天天在你店里、却从没打过工的陌生人。

一条原则:只给眼下要用的

行话叫最小权限原则(只给它干这件事非用不可的那点权限)。白话就是:它办这件事要碰什么,就只让它碰什么。

让它查天气,给它读天气的权限,不该顺手带上看你全部聊天记录的能力。让它整理当日报表,给它这一张表的"读",不是整个文件夹,更不是"改"。让它给顾客回话,权限给到"存草稿等你确认",而不是"直接发出去"。

判断标准很土:想象它哪天犯浑,用现在的权限最坏能干出什么?最坏结果你兜不住,权限就给大了。

具体授权时,对着三样东西各卡一道。

  1. 能看什么。只授权相关的文件、表格、群,其余别图省事全量开放。
  2. 能改什么。读是读,写是写,分开给。出过的事,绝大多数栽在它不该有的那个"写"上。
  3. 能碰谁。只让它联系你自己,还是能直接联系客户?这条最贵,慎开。

三类操作,必须留人批

下面三类事,永远不该让 AI 自动完成。

  1. 付钱、退款、改价,动真金白银的。
  2. 删除:删客户资料、删订单记录、清空表格。
  3. 对外发布:发给客户的公告、发到平台的内容、替你说的任何承诺。

它们的共同点是:错了难挽回,或者受影响的是外人。你内部改错一张表,删了重做就是;话说给顾客听,收不回来。

落地办法不是天天提心吊胆盯着它,而是把"人批一道"做成固定流程。多数 AI 应用都有这类开关:把发送设成"先生成草稿,人工确认后再发";把危险动作设成"每次执行前弹窗确认"。去设置页花十分钟,把这些开关找出来、打开,这十分钟值。

批的时候也别走过场。AI 递上来的确认请求写得极有把握,你扫一眼就想点"同意",这最危险。养成三个习惯:涉及钱的,数字自己核一遍;涉及删的,问一句"这里面有没有只此一份的东西";涉及发的,先看发给谁、说了什么。

老周有一次差点出事。他让 AI 整理外卖平台的差评,它一着急写了条回复,语气把责任全推给骑手,还自己打开了自动发送。老周回忆说,那一下他出了一身冷汗:话发出去,砸的是自家店的口碑,骑手以后来取餐也难看。

本案例为虚构情景合成,用于说明方法,不对应任何真实商家。

出了事,怎么把损失关小

边界划得再好,也有漏网的时候。出事那一刻能救你的不是运气,是三样提前备好的东西。

有记录。AI 干过什么,得有一份翻得回来的流水:什么时间、动了哪个系统、结果如何。自带操作日志的工具,把日志打开;不自带的,自己开个文档,让它每次干完活补一行。没有记录,出了问题你连"它昨晚到底发过什么"都说不清,复盘全凭猜。

能撤回。消息能在两分钟内撤回的平台,先把撤回键的位置记熟。表格和文档,每周备份一次,或者用带历史版本的功能,改坏了能一键退回上周。钱的单子,提前搞清楚退款和申诉的入口在哪里,别到时候现找。

能停。发现苗头不对,你要能在十秒内让它停工:关掉这个会话,去设置里收回授权,把那个工具的开关拨掉。别笑,出事的人有一半第一反应是手忙脚乱找不到开关。今天就把"关在哪里"看一遍,位置记在手机备忘录里,这个动作不消五分钟。

还有一条底线:客户资料、合同、账目,这些不能离手的东西,优先考虑放在本地或者你信得过的服务上。数据一旦交给陌生平台,再谈"能停"就晚了,因为那一遍已经被看过去,停不回来。

动手试试

  1. 做一次权限体检。打开你给 AI 开过授权的应用,逐个看它能碰到你什么:文件、相册、通讯录、消息、邮箱。把"要它查天气却能看到相册"这类多余授权,今天全部收回。
  2. 写下你的红线清单。对着自己生意上的动作列一遍:哪些它可以自动干,哪些必须你批,哪些坚决不让它碰。写完拍照存底,贴在收银台后面也不丢人。
  3. 演练一次急停。假设此刻就是事故现场:让 AI 立刻停下,收回它的工具授权,找出最近一条它替你发出去的消息并撤回。整套动作计时。哪个环节超过两分钟,说明边界还没划好,回去补那一段。

做不出来?

练习卡住很正常。两个办法:把你遇到的问题原样发给 AI 让它换个讲法;或者回官网预约一次陪跑,我们手把手带你过一遍。