同一个AI工具,有人当搜索引擎用,有人却能靠它管理店铺——差异根源不在模型,而在用户的AI素养。本文提出一套可嵌入常规调研的轻量测量方案,用两道题精准分层用户,帮你区分体验痛点到底源于产品还是用户,避免资源错配。

开篇:一个容易被忽略的 AI 体验变量

在使用 AI 尤其是对话大模型时,笔者观察到一个现象:身边的亲友对 AI 的使用方式、评价差异巨大;例如有的人完全就没有「提示词」的概念,基本就把它当搜索引擎来用,有疑问、需要时就拿起来问一下,结果不满意就觉得产品不行;但同时,也有人用 AI 做成了更大价值的事,甚至是管理店铺,经过询问发现,造成这种差异的,主要在于使用方式。他们会主动给 AI 提供背景信息、明确任务细则、多轮迭代检验结果。

这种巨大差异并不仅仅发生在笔者身边,Anthropic 官方发布的 Claude 用户对话行为分析也显示:资深用户(使用 6 个月以上)对话成功率比新用户高出 10%;这个差距在剔除了任务类型、模型、所在国家等变量的作用后依然显著。此外,他们的编程智能体专项分析也观察到类似现象:新手用户的任务验证成功率仅 15%,而中级及以上用户则能到 28%–33%。笔者的亲身经历,以及两项外部研究报告的结果均表明:用户自身的因素——尤其是使用方式——也是影响 AI 体验的核心变量。

这种影响 AI 使用效果的用户能力、行为模式与判断意识,正是 AI 素养这个概念的核心内容。本文下面要探讨的,就是一套可嵌入产品调研的 AI 素养轻量测量方案。

一、为什么需要关注用户的 AI 使用方式、行为模式

1、AI 与互联网产品体验差异本质

这种「同一个 AI 工具,产出、评价差异巨大」的现象,本质上来自 AI 产品的特征:没有固定、标准化的操作路径;最终产出的质量,高度依赖人与 AI 一起共创;而互联网产品几乎与之完全相反:操作路径固定、结果确定性强。想象一下,一款电商网站,不管哪个用户、如何去用,主要购物路径基本都是一样的:浏览 / 搜索、查看详情、比价 / 比同款、尤其是最终操作结果基本都是「订单付款成功,请等待收货」。使用方式最多影响的是操作效率、可用性,不太会带来像 AI 产品结果那样「一个天上、一个地下」的巨大体验差异。

2、忽略用户的 AI 使用方式会导致两类归因错误

如果没有事先把这个变量纳入 AI 产品调研中,后续将难以区分体验痛点到底源于产品,还是用户自身。而没有找到真正的问题就盲目行动,则可能导致两类错误:

第一种,把问题都归在模型能力上,完全不考虑用户的实际使用方式、水平:虽然投入了大量资源去优化模型、改进系统设计等,但结果并不理想——毕竟真正的问题出在引导和使用门槛上,而非模型本身。

第二种正相反,把模型能力不足当做「用户不会用」:以为优化引导就能解决用户吐槽,但结果是用户尤其是高能力型持续流失。

因此,只有清晰区分问题来源、才能找到真正有效的改善对策,避免资源浪费,贻误宝贵的优化时机,就需要先能准确了解用户的 AI 使用方式、行为模式等。

3、传统「频次 / 时长」分层指标为什么失效

看过调研报告或者做过调研的人此时可能都在想,为什么不用使用时长、使用频次这些常见的指标去定义用户的 AI 使用行为呢?在笔者看来,这一互联网产品调研中的逻辑:默认高频 / 长经验 ≈ 高能力、低频 / 短经验 ≈ 新手,在 AI 语境下不再那么绝对成立了。Nielsen Norman Group 那篇《How AI Literacy Shapes GenAI Use》(2026 年 2 月,以下简称 NNG 该文)也给出类似观点:高频使用不代表高水平。因为存在一类高频用户,几乎每天都在用 AI,但就是简单的单轮次提问,然后对 AI 给出的答案照单全收,从来也没想过还需要去优化提示词、甚至答案还会出错。因此,仅仅只凭使用频次分层,会把这部分用户误判为「资深用户」,需要有新的、更契合 AI 产品特点的分层维度 / 指标。

下面,笔者介绍几种常见的相关指标,看哪个更适合 AI 产品调研场景。

二、现成的概念和量表,都没法照搬

1、三个近义概念对比分析

目前,国内外学术界、企业界在讨论用户使用 AI 能力、行为模式时,主要使用以下几个概念:

2、为什么选用 AI 素养

对比了以上几个概念后,本文选择参考 AI 素养的定义去测量「用户使用 AI 的行为方式、能力等」,原因如下:

首先,研究对象更匹配:本文面向的是 C 端、互联网普通用户,不是职场专业人群,而 AI 流畅度和熟练度的场景偏企业培训和人才分级。

其次,更契合测量目标:普通用户「怎么提问、怎么核验」是本文重点关注的,这也恰是 AI 素养核心讨论的。

除此外,考虑到 AI 各产品间差异较大,因此本文先只将 AI 素养的讨论限定在对话生成式 AI 产品里,暂不涉及智能体。

3、AI 素养里现有的量表、框架没法直接拿来用

AI 素养已有的量表并不少,但不管是内容量(往往题量很大),还是内容(不仅涉及使用行为,还包含 AI 产品原理、伦理等跟产品体验研究相关度不大的内容)都不适合用于产品用研场景,没法照搬,毕竟笔者只打算把 AI 素养当做影响体验的一个分层变量,而不是核心主题。

除此外,NNG 该文也有参考价值,他们基于定性研究提出了定义 AI 素养的二维框架,用的两个维度如下:

  1. 提示流畅度:用户能不能把需求、约束、上下文说清楚;
  2. 输出素养:是否能判断输出对不对、有没有幻觉、要不要交叉核验。

并基于这个框架给出了四类用户原型。

这在我看到的框架里,是和产品体验的相关性最强的,毕竟对于对话式 AI 产品,用户能感受、被影响的主要也就是「输入—输出」这两部分。但它只提出了框架和观点,并没有量表、题干、选项、分析方式等,依然不能直接拿来用在 AI 产品调研中。这就意味着,必须自己动手改造。

三、一套可嵌入常规调研的轻量 AI 素养测量方案

笔者基于对话式 AI 产品的特点——用户与模型的交互是典型的「输入—输出」闭环,并参考 NNG 该文定义 AI 素养的二维框架,提供以下三方面的补充:

1、可量化的测量题目:把抽象的行为转化为 2 道轻量化问题——标准化题干与选项,适配问卷调研场景;

2、可执行的分层规则:提供计分规则与高低分划分方法,实现更精准、可执行的用户分类;

3、分析、归因思路:完整的组间、组内分析思路,可通过用户间差异更精准定位不同类型用户的问题。

1、测量——两个测量维度和样题

为服务产品体验研究的场景特点,AI 素养的题目仅聚焦对话交互的两个核心环节:输入端的提示流畅度、输出端的输出素养。

Q1(提示流畅度):当你向 AI 提问时,一般都提供以下哪些信息?(可多选,若不同场景做法不同,请按大多数时候的习惯选择)

  • 只提需求 / 任务,不补充额外信息
  • 补充大致要求(如用途、风格、字数)
  • 说明任务背景,明确格式、标准等约束
  • 给参考示例,或拆解任务、分步引导 AI

Q2(输出素养):对于 AI 生成的内容,你一般都是如何处理 / 使用?(单选,若不同场景做法不同,请按大多数时候的习惯选择)

  • 基本直接使用,很少怀疑有问题
  • 大概浏览一遍,觉得合理就用
  • 会核对关键信息,不确定的内容会查证
  • 会交叉验证来源,反复迭代优化后再用

这两个题目的设计主要基于以下两点原则,目的是保证测量结果尽量真实反映用户的日常使用模式:

第一,测典型行为,而不是测能力上限。因为真正决定体验评价的是日常、高频的行为,而非偶尔能达到的能力上限,所以题干限定的是用户大多数场景下的使用习惯,而不是最高使用技巧;同时也能规避自评能力时常见的自我认知偏差和社会赞许效应,让结果更贴近真实使用水平。

第二,不以 AI 产出结果反推能力,只衡量用户行为,据此排除模型能力波动带来的干扰,确保不同时间、不同产品下的分层结果稳定可比。

2、分析——怎么计分、分类

以上两道 AI 素养衡量题目中,提示流畅度是多选题,按选中的最高一档赋分:如只选第一项记 1 分,选到第二项记 2 分,依此到 4 分;输出素养是单选,不同选项对应记 1–4 分。两道题的分值按样本分布情况分成高低两组,交叉后得到四类用户:

3、分析——精准拆解体验问题来源

完成用户分类后,下一步通过组间—不同用户对比看差异、组内—同类用户看共性的思路去找问题、行动点:

1、组间对比——判断痛点是否由使用方式导致

重点看同一个痛点在不同类用户间是如何分布的,例如,如果某个痛点在四类用户中都是突出问题,则说明这个问题跟用户的使用方式、能力相关不大,应该主要是产品问题,毕竟无论用户会不会用都在吐槽,需要优先在产品上找原因;下图列出两种典型的情况和对应的建议行动点:

2、组内解读——排除不同使用方式干扰,发现真实痛点

看清不同类型用户的最大痛点分别是什么,再根据用户特点得到归因假设、解决策略。

4、业务价值

本方案仅靠两道核心行为题即可完成用户 AI 素养分层,调研成本低、可行性高,同时能解决 AI 产品用研核心痛点——体验问题归因模糊,具体价值体现在以下几方面:

1、清晰区分痛点是「产品问题」还是「用户不会用」;

2、降低因归因错误导致的资源浪费、风险;

3、不仅能给出 AI 素养评分,更可提供精细化、分层运营与优化策略。

四、展望:面向智能体场景的 AI 素养延伸

以上介绍的这个 AI 素养轻量化测量方案是限定在对话生成式 AI 产品上的,随着智能体的快速普及,用户使用智能体的素养、使用方式等也值得关注,但从目前的研究结果来看,面向普通用户的智能体素养测量还没有形成成熟的通用方案,整体仍处于探索阶段。

但是,基于智能体产品的特点,对用户的能力评估肯定不能像对话大模型那样再局限于「写好提示词」和「判断输出对错」,在笔者看来,用户使用智能体的 AI 素养的测量内容至少要往以下三个方向扩展:

1、提示流畅度能力延伸为上下文与边界设定能力:从把需求说清楚,拓展到明确任务的范围、操作权限与行动边界,避免智能体越权执行;

2、用验收与授权判断能力去扩展原有的「输出素养」:在校验内容对错的基础上,还要能判断任务是否真正完成、结果是否符合要求、能否批准后续操作;

3、新增过程控制能力:为了用好智能体,用户还需要关注其执行过程中的监控、中断与状态恢复,比如及时发现计划偏差、回退到已知安全状态。

总之,AI 产品的体验研究,不能照搬传统互联网用研经验。传统调研聚焦「产品本身」,而 AI 用研必须兼顾「产品能力 + 用户行为」双维度,才能破解体验归因模糊的行业难题。

本文由 @晚风 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议