人工智能正在改变企业对客户关系管理软件的期望。
现代 CRM 系统不仅可以存储客户信息,还可以总结对话、识别销售信号、推荐后续行动、生成客户沟通信息、预测结果并自动执行部分业务流程。
随着人工智能能力的不断提升,一个重要问题随之出现:
您能信任人工智能来处理您的客户关系管理数据和客户关系吗?
答案并非简单的“是”或“否”。
当周边系统提供适当的安全措施、隐私控制、权限管理、治理、验证、监控和人工监督时,人工智能可以安全地用于客户关系管理(CRM)数据。因此,问题的关键不在于人工智能本身是否值得信赖,而在于人工智能的设计方式、其访问权限以及其被允许执行的操作。
随着企业从人工智能生成的洞察转向能够执行多步骤任务并采取行动的人工智能代理,这一点变得极其重要。
NIST的人工智能风险管理框架 将可信赖的人工智能视为安全性、可靠性、透明度、隐私性和公平性的结合。
那么,在客户关系管理系统(CRM)中,可信赖的人工智能是什么样的呢?
CRM中可信赖的AI究竟意味着什么?
CRM 中可信赖的 AI 意味着 AI 在数据、权限、隐私、操作、问责制和人为控制等明确定义的范围内运行。
企业应该能够回答诸如此类的问题:
- AI可以访问哪些CRM数据?
- 哪些用户可以使用特定的人工智能功能?
- 人工智能会使用哪些信息和背景信息?
- 人工智能为什么会给出特定的建议?
- 人工智能可以执行哪些操作?
- 哪些操作需要人工批准?
- 如何保护敏感信息?
- 人工智能生成的操作会被记录吗?
- 管理员能否控制人工智能的使用?
- 人类能否停止或干预人工智能程序?
随着人工智能在销售、营销、客户服务和其他商业应用领域的应用,这些问题变得更加重要。
这也与更广泛的概念相联系…… 人工智能原生客户关系管理AI原生架构并非仅仅是添加更多AI功能,它还考虑了AI如何与数据、上下文、工作流程、权限和操作进行交互。
随着人工智能承担更多客户关系管理工作,信任为何变得更加重要
传统客户关系管理系统通常按照用户配置的规则、工作流程和操作运行。而人工智能可以解读自然语言、识别模式、整合来自不同记录的信息、生成内容、提供建议,并且越来越多地执行任务。
自动修改客户记录或触发工作流程的人工智能代理对业务运营有着更直接的影响。因此,人工智能获得的权限越大,安全性、权限控制、治理和可审计性就越发重要。
Vtiger对……的讨论 传统CRM与AI CRM 这说明,成功应用人工智能不仅仅是开启人工智能功能那么简单。
AI CRM 安全始于数据访问
CRM 系统可以包含公司一些最有价值的信息:客户联系方式、销售对话、购买历史、支持记录、合同、财务信息和内部业务数据。
在缺乏适当控制的情况下,赋予人工智能访问此类信息的权限可能会造成不必要的风险。因此,人工智能客户关系管理(CRM)安全的首要原则应该很简单:
人工智能不应访问用户或进程无权访问的信息。. 这意味着人工智能应该在与底层客户关系管理系统相同的安全边界内运行。
基于角色的访问控制
基于角色的访问控制决定了不同用户可以查看和执行哪些操作。例如,销售代表可以访问自己的销售机会,但无权访问其他部门的敏感财务记录。
人工智能界面不应仅仅因为用户用自然语言提问就绕过这一限制。
记录级安全性
访问权限可能还需要限制在特定记录上。例如,区域销售人员可能仅被授权查看分配给其区域的客户信息。
如果人工智能生成客户摘要,则应仅使用该用户授权范围内的记录。
现场安全
即使在可访问的记录中,某些信息也需要额外的保护。用户可能被允许查看客户帐户,但无权访问其中的某些敏感字段。
当人工智能生成摘要时,这一点尤为重要,因为它可以将来自多个字段的信息合并到一个响应中。
好vtiger的 CRM安全 博客讨论了基于角色的访问控制、字段级控制、数据脱敏、加密、身份验证和审计跟踪作为 CRM 安全性的组成部分。
AI CRM隐私:客户数据会发生什么变化?
安全控制决定了谁可以访问信息。
隐私问题引出了另一系列问题:这些信息是如何处理和处理的?
在启用人工智能功能之前,企业应该了解:
- 哪些数据会被发送给人工智能模型?
- 这些数据在哪里进行处理?
- 保留多长时间?
- 它是用于模型训练的吗?
- 谁可以访问人工智能生成的输出结果?
- 如何处理个人身份信息?
- 当引入外部人工智能服务时会发生什么?
这些问题很重要,因为 CRM 数据可能包含个人身份信息、机密通信、商业信息和其他敏感细节。
仅使用任务所需的数据
更多的数据并不一定能让人工智能的响应更好。
假设人工智能系统正在生成对某个支持案例的回复。它可能需要案例历史记录、相关产品信息以及之前的客户互动记录。
它可能不需要存储在 CRM 系统其他位置的无关财务或个人信息。
这是原则 数据最小化只给人工智能完成任务所需的信息,而不是无限制地访问所有信息。
保护敏感信息
企业还可以使用数据脱敏和访问限制等控制措施来减少敏感信息的不必要泄露。
当 CRM 数据被发送到外部 AI 模型或连接的 AI 服务时,这一点就显得尤为重要。
目标并非阻止人工智能使用客户背景信息,而是确保人工智能接收到的是恰当的背景信息,而非不受限制的数据。
AI权限应遵循CRM权限
人工智能界面绝不能成为入侵客户关系管理信息的后门。
想象一下,用户问道:“显示该客户的完整历史记录。”
人工智能应该只返回用户有权查看的信息。
同样的原则也适用于人工智能执行操作。根据配置的不同,人工智能代理可以创建记录、任务、会议和发送消息。每项操作都应遵循相应的权限和业务策略。
随着企业向……方向发展,这一点尤为重要。 CRM中的人工智能代理与响应提示的基本助手不同,智能体可以完成多个步骤并执行操作以实现既定目标。
管理幻觉和错误的AI输出
生成式人工智能可以生成听起来很有说服力但包含错误信息的回复。
在客户关系管理系统(CRM)中,可能出现以下不准确的输出:
- 客户摘要
- 销售建议
- 预测
- 支持回应
- 账户研究
- 内部报告
- 生成的通信
当错误的输出被自动转换为操作时,风险就会增加。
降低这种风险的一种方法是将人工智能建立在相关的业务信息之上,而不是仅仅依赖模型的通用知识。
例如,一个 人工智能客户关系管理系统 可以使用 CRM 记录、客户互动历史记录、已批准的知识来源和业务工具。
下一步是 验证.
人工智能可以决定它认为应该发生什么,但客户关系管理系统应该决定该行为是否有效且允许。
人为监督:决定人工智能应该做什么和不应该做什么
人为监督并不意味着必须有人监督。 人工审核每一项人工智能生成的任务那样做会大大降低自动化的价值。相反,企业可以根据风险和后果,采用不同程度的人工干预。
例如,生成内部会议摘要可能几乎不需要监督,发送包含定价、合同信息或敏感回复的客户电子邮件可能需要审查,而更改关键客户信息或触发外部业务流程可能需要更严格的控制。
企业应关注的人工智能特有风险
传统 CRM 安全性仍然很重要,但人工智能引入了额外的风险。
及时注射
人工智能可以处理来自电子邮件、文档、网页和其他来源的信息。这些信息来源可能包含试图影响人工智能行为的指令。这也带来了提示注入攻击的可能性,尤其是在人工智能能够访问工具或业务系统的情况下。
过度代理
拥有过多权限的人工智能代理可能会执行超出其预期目的的操作。解决方案是限制其工具、权限、操作和自主性。
资料泄漏
访问控制措施不当可能导致人工智能生成的响应泄露用户不应看到的信息。因此,人工智能必须继承或强制执行适当的客户关系管理 (CRM) 权限。
特工蔓延
随着组织创建越来越多的AI代理,治理可能会变得复杂。多个代理在缺乏集中监管的情况下运行,可能会导致行动冲突、工作流程重复和所有权不明等问题。
人工智能的应用和成本
持续运行任务的人工智能代理也会产生不可预测的使用量。因此,治理措施可以包括使用量限制、预算、速率限制以及在代理或任务级别进行监控。
如何评估人工智能客户关系管理(AI CRM)的安全性和治理
在评估人工智能客户关系管理系统时,不要只关注人工智能功能的数量。
询问这些功能是如何控制的。
数据安全
- AI是否尊重CRM权限?
- 访问权限是否在记录级别和字段级别进行控制?
- 敏感信息可以被屏蔽吗?
- 客户数据在传输和存储过程中是否受到保护?
治理
- 管理员能否启用或禁用人工智能功能?
- 人工智能的使用情况可以监控吗?
- 企业能否控制人工智能预算?
- 企业能否自行设定审批要求?
代理控制
- 人工智能代理是否拥有权限?
- 他们的行为可以受到限制吗?
- 他们能被阻止吗?
- 他们能否将工作上报给人工处理?
Vtiger NextGen:在平台层面构建具有治理能力的AI
随着人工智能融入越来越多的业务流程,如果每项人工智能功能都作为独立层级、各自独立的控制措施来实现,那么治理难度就会增加。更集成化的方法是将数据模型、权限、业务规则、工作流、验证和人工智能操作整合起来,协同工作。
Vtiger NextGen 正是在此背景下应运而生。NextGen 是一个原生 AI、元数据驱动、可组合的平台,它允许企业基于统一的数据模型,围绕特定的业务需求构建和运行 CRM 及其他应用程序。其平台方法将业务数据、工作流、AI 功能、应用程序和受控操作整合在一起,而不是将 AI 视为一个孤立的功能。
这一理念对于可信赖的人工智能至关重要,因为同一个平台基础既可以为人工智能提供上下文,又可以定义人工智能可以访问和执行的内容。

常见问题解答 (FAQs)
将人工智能应用于客户关系管理(CRM)数据是否安全?
当人工智能和客户关系管理(CRM)架构中构建了适当的访问控制、隐私保护、数据处理策略、验证、监控和治理机制时,人工智能可以安全地与CRM数据结合使用。所需的保护级别取决于数据、用例和组织。
AI CRM如何保护客户数据?
AI CRM 安全性可以包括基于角色的访问控制、记录和字段级权限、数据脱敏、身份验证、加密、租户控制、隐私政策和审计日志记录。AI 不应向用户提供他们无权访问的信息。
为什么人工监督在人工智能客户关系管理中如此重要?
人工监督能够对人工智能可能缺乏重要背景信息或错误结果可能造成重大后果的决策和行动进行控制。监督的程度应取决于任务相关的风险。
企业如何减少客户关系管理(CRM)中人工智能产生的幻觉?
企业可以通过以下方式减少幻觉的影响:将人工智能与相关的客户关系管理数据和已批准的知识相结合,验证人工智能生成的操作,强制执行权限,并要求对高影响用例进行人工审核。
