多模态提示词

在前面的文章中,咱们研究的主要是 “文本提示词” 。不管是思维链思维树提示词链,还是给推理模型编写提示词,本质上都是通过文字告诉 AI:

  • 你要完成什么任务。
  • 有哪些资料可以使用。
  • 哪些规则不能违反。
  • 最终结果应该如何输出。

但有些需求,光靠文字真的很难说清楚。例如,你想让 AI 帮你实现一个网页卡片。为了描述页面布局,你可能得写上这么一大段:

左边是一张圆角图片,右边分成上下两部分,上面是加粗标题,下面是灰色说明文字。图片和文字需要垂直居中,按钮放在右下角,还要留出适当间距……

写着写着,你可能会就在想: “要是能直接给它看一眼设计图该多好!”

好消息是,现在的 AI 早就长出了 “眼睛” 和 “耳朵”。这也就是提示词工程里的最后一块重要拼图——多模态(Multimodal)提示词

多模态提示词的核心概念:结合文本、图片和音频等多种信息形式向 AI 下达指令。

什么是多模态?

“多模态” 这个词听起来很有学术味,但理解起来其实是非常简单的。所谓的 “模态”,指的就是信息的表现形式。比如:

  • 文本是一种模态。
  • 图片是一种模态。
  • 音频是一种模态。
  • 视频也是一种模态。

多模态代表多种信息的表现形式,包括文字、图片、音频和视频等。

以前的大模型是单模态的,只能处理文本相关的内容。而现在的 ChatGPT、Claude、Gemini 等大模型,基本都是 “多模态模型” 了。

也就是说,你可以把一张截图、一份 PDF、甚至一段语音直接扔给它,然后加上文字指令,让它帮你干活。其中最实用、也是我们日常工作中最常用的,就是 “图片 + 文本” 的组合。

场景一:把图片整理成结构化数据

假设你手里有一张销售报表截图,里面包含商品名称、销售数量和单价。如果只是想把其中的数据整理出来,当然可以自己对着图片一行一行敲。

不过,敲到第 20 行以后,眼睛可能就开始抗议了。这时候,我们可以把图片上传给 AI,并明确需要提取哪些字段。

多模态提示词场景一:将图片中的销售报表提取并转化为结构化的 Markdown 表格数据。

示例:

【上传销售报表截图】

# 任务
请读取图片中的销售数据,并整理成 Markdown 表格。

# 输出字段
只提取下面三列:
1. 商品名称。
2. 销售数量。
3. 单价。 

# 处理规则
1. 单价统一使用人民币 “元”。
2. 保留图片中的原始数据,不要自行修改数值。
3. 如果某个文字或数字无法清楚辨认,请填写 “待核实”。
4. 不要根据上下文猜测模糊内容。
5. 只输出最终表格,不需要额外解释。

多模态模型不仅可以识别图片中的文字,还能结合表格布局,理解哪些数字属于哪一行、哪一列。

不过要注意,它并不一定在所有情况下都比专业的 OCR 或文档解析工具更准。如果你需要批量处理上千张票据或合同,专业工具或人工复核往往更加稳定。AI 的优势在于,它不仅能识别内容,还能进一步理解、整理和解释这些数据。

场景二:对比两张图片,找出差异

在日常工作中,我们经常需要对比不同的文件或界面,找出不一致的地方。这时候,我们可以直接把多张图一起扔给 AI,让它帮忙 “找茬”。

比如在前端开发中,有 2 张图片:

  • 图 1 是设计师提供的 UI 设计稿。
  • 图 2 是开发完成后的网页截图。

页面看起来大差不差,但总感觉哪里不太对。盯了半天,只看出按钮好像有点歪,这时候,就可以让 AI 帮忙做个初步对比。

多模态提示词场景二:对比 UI 设计稿与实际网页截图,找出字体、间距和对齐等视觉差异。

示例:

【上传图 1:设计师的 UI 原型稿】
【上传图 2:我实际开发出来的网页截图】

# 任务
我是一名前端开发工程师。请仔细对比这两张图片,指出我开发出来的页面(图 2)在视觉还原上存在哪些问题。

# 检查重点
重点检查以下几个维度:
1. 字体大小、粗细、颜色是否一致。
2. 元素之间的间距(Margin / Padding)是否合理。
3. 整体对齐方式是否偏离。

请逐条列出不同之处,并给出大概的修改建议。

有了明确的对比目标和 “检查重点”,AI 就不会漫无目的地乱猜,而是会精准地帮你指出:“你的登录按钮圆角小了大概 4px,并且标题文字的灰色偏深了。”

场景三:从草图生成前端代码

对于多模态提示词来说,还有一个非常强大的用法:根据一张草图(设计稿、截图、手绘等)生成代码。

假设你在纸上简单画了一个登录卡片:

  • 顶部是标题。
  • 中间有邮箱和密码输入框。
  • 底部是登录按钮。
  • 右上角还有一个关闭图标。

就算草图画得歪歪扭扭,只要结构能看懂,AI 通常就能帮你生成一个基础版本。

多模态提示词场景三:根据手绘的登录页面草图,让 AI 直接生成对应的前端 HTML 和 CSS 代码初稿。

示例:

【上传登录页面手绘草图】

# 任务
请根据这张草图,帮我生成一个可以直接运行的登录卡片。

# 技术要求
- 使用 HTML 和原生 CSS;
- 不要使用 Bootstrap、Tailwind CSS 等第三方 UI 库;
- HTML 和 CSS 分开输出,保证代码结构清爽。

# 界面要求
- 登录卡片在页面中必须水平、垂直居中;
- 卡片使用浅色背景、圆角和轻微阴影;
- 包含邮箱输入框、密码输入框和登录按钮;
- 按钮要有 hover 悬浮效果;
- 页面需要做好手机屏幕的响应式适配。

# 处理规则
- 草图里没标明白的颜色和尺寸,你可以采用合理的默认值;
- 如果某个区域实在看不清,请先说明你的理解;
- 不要给自己加戏,别补充草图里没出现的大量额外功能;
- 在输出代码前,先简单列出你识别到的页面结构。

AI 收到任务后,生成的 CSS 代码往往长这样:

.login-card {
    width: min(360px, calc(100% - 32px));
    padding: 24px;
    background: #ffffff;
    border: 1px solid #e5e7eb;
    border-radius: 12px;
    box-shadow: 0 8px 24px rgba(0, 0, 0, 0.08);
}

不过,我们也得认清现实:根据图片生成代码,通常只是个帮你省去敲基础骨架时间的 “初稿”,远达不到百分百还原、直接能上线的最终形态。

代码拿回来之后,咱们还是得人工走一遍验收流程,比如:页面结构是否合理、响应式布局是否正常、表单是否可用等等。

多模态提示词的 “避坑指南”

很多时候,我们直接把图片、截图和图表直接丢给 AI,确实比用文字描述方便得多。但 AI 能看图,不代表它什么图都能看懂。

使用多模态模型时,建议避开下面几个常见的坑。

1. 图片不要太模糊,AI 不会魔法

多模态模型的识图能力越来越强,但如果截图分辨率太低、字太小,或者被严重压缩,它往往也看不准。比较麻烦的是,它有时候为了 “交差”,会顺着模糊的轮廓瞎猜,给出完全跑偏的结论。

所以,发图前最好自己先瞄一眼:

  • 关键文字能看清吗?
  • 重要的表格行列完整吗?
  • 有没有被水印或弹窗挡住关键信息?

如果连你自己放大三倍都看不清,就别指望 AI 能看懂了。遇到这种情况,老老实实重新截个局部高清图,或者手动把关键文字打在提示词里。

多模态提示词避坑指南一:上传的图片需保证清晰度,避免因模糊导致 AI 识别错误和主观盲猜。

2. 不要只扔一张图,要给足背景

图片只能告诉 AI “画面里有什么”,却没法告诉它 “你为什么要看这张图”。比如你扔一张数据报表过去,只问一句:

这张图怎么看?

这就太难为 AI 了。它可能去分析趋势,也可能介绍横纵坐标,但往往给不到你真正想要的答案。

更有效的写法是交代清楚背景和目标:

这是某电商平台第三季度的用户活跃度报表。请重点分析 9 月份活跃用户明显下滑的可能原因,并指出还需要哪些数据才能进一步验证。

这样一来,AI 就知道:

  • 这是什么业务的数据。
  • 你重点关注哪个时间段。
  • 你希望它完成什么任务。
  • 哪些结论只是推测,还需要进一步验证。

总而言之:

图片提供的是画面,提示词提供的是任务。两者缺一不可。

背景越清楚,AI 越容易抓住重点;问题越模糊,它就越容易自由发挥。

多模态提示词避坑指南二:不要只发一张孤立的图片,需要提供充足的业务背景和明确的任务目标。

3. 图片内容太多时,明确指出重点区域

有些图片的信息量非常大。例如,一整页后台管理系统截图里,可能同时包含导航栏、数据表格、折线图、筛选条件、错误提示和几十个按钮。

如果你只说:

帮我分析一下这张截图。

AI 就得自己猜测你到底想看哪里。它可能盯着你根本不关心的左侧菜单分析半天,却错过右上角那个真正有问题的异常图表。

因此,图片内容较多时,最好主动圈定分析范围:

  • 请只分析图片右上角的折线图。
  • 请查看表格第三行的异常数据。
  • 请解释红色提示框中的报错信息。
  • ……

如果工具支持,直接在原图上画个红圈、打个箭头,标个 “区域 A”,然后在提示词里让它重点看 “区域 A”,往往比用文字描述方位准确得多。

多模态提示词避坑指南三:当图片内容繁杂时,应提前在图上圈定重点区域以引导 AI 精准分析

4. 涉及关键数字,最好进行二次核对

AI 看懂一张图片,不代表它能百分之百识别图片里的每一个数字。尤其是在下面这些情况下,更容易出现识别错误:

  • 数字字体较小。
  • 小数点不明显。
  • 0 和 O、1 和 I 容易混淆。
  • 表格行列很多。
  • 图表颜色相近。
  • ……

例如,图片中的销售额是 1.8 million,模型可能看成 18 million。只差一个小数点,结论就从 “正常增长” 变成 “公司准备起飞” 了。

因此,涉及财务数据、考试成绩、合同金额、药品剂量和生产参数时,不能只看 AI 的识图结果。更稳妥的做法是要求它先提取数据,再进行分析:

请先将图表中的月份和销售额整理成表格。我确认数据无误后,再分析销售额变化趋势。
通过 “先识别、后分析”,我们可以在中间多设置一道检查关卡。

多模态提示词避坑指南四:涉及关键数值时,务必先让 AI 提取复核,避免小数点或相似字符识别错误。

5. 不要在截图中泄露隐私和敏感信息

给 AI 上传图片之前,还要注意一个经常被忽略的问题:图片里可能藏着不该上传的信息。例如:

  • 姓名、手机号和家庭住址。
  • 身份证、护照和银行卡信息。
  • 公司内部数据。
  • 客户名单和订单信息。
  • API Key、密码和验证码。
  • 浏览器标签页中的私人内容。
  • 系统后台中的访问令牌和服务器地址。

有时候咱们只是想让 AI 帮忙看看一行报错代码,结果咔嚓一截图,顺手把客户名单、服务器地址、API Key 甚至是私人浏览器标签页全给截进去了。

发图前,记得把不相干的区域裁掉,或者给真实姓名、手机号、密码这些敏感信息打个马赛克。只给 AI 喂它干活真正需要的部分就行,没必要把整个 “仓库” 都搬过去。

多模态提示词避坑指南五:截图上传前必须为姓名、手机号和 API Key 等敏感隐私信息打码处理。

6. 重要的结论,不能只依赖一张图片

图片可能过期、缺少上下文,也可能只展示了局部结果。例如,一张网站流量下滑的折线图,并不能直接证明 “网站被搜索引擎惩罚了”。流量下降还可能与节假日、统计异常、广告停止、页面改版或数据延迟有关。

因此,当 AI 根据图片给出原因时,要注意区分:

  • 图片中可以直接观察到的事实。
  • 根据画面作出的合理推测。
  • 目前无法验证的猜测。

为了防止 AI 看着图一本正经地下定论,我们可以直接给它立个规矩:

请将结论分成 “图中可以确认的事实” 和 “仍需数据验证的推测” 两部分。不要把推测写成确定事实。

多模态提示词避坑指南六:要求 AI 将图中可确认的客观事实与需要验证的推测分开说明,避免急于下定论。

给站长反馈

绿叶网正在不断完善中,小伙伴们如果发现任何问题,还望多多给站长反馈,谢谢!

邮箱:lvyenet@vip.qq.com

「绿叶网」服务号
绿叶网服务号放大
关注服务号,微信也能看教程。
绿叶网服务号