跳至正文
BUSINESS REPORT / TECH

资安院:AI假影片常见四大情境,民众可用三种方式做初步检核

资安院研究员指出,AI生成假影片可归纳为“名人换脸色情片、冒充名人诈骗、AI虚拟化身内容农场、搬运Sora影片”等四类情境;一般民众可通过留意AI生成标注、以图搜图、检视影片情境合理性等方法进行初步辨识与风险降低。

记者 财经日报编辑部

假影片更像真的:从“换脸”到“虚拟医生”

中央社报道指出,随着人工智慧(AI)生成影片数量攀升,内容不仅被用于伪冒名人进行诈骗,也出现“虚拟医生”散布不实讯息等新型样态。与早期粗糙的拼贴伪造不同,当前生成式模型让影像、口型、语音与场景更连贯,导致一般使用者在短时间内更难凭直觉判断真伪,进而放大金融、健康与社会信任层面的风险。

资安院:AI假影片常见四大情境,民众可用三种方式做初步检核
相关图片

四大情境:资安院归类AI假影片常见套路

资安院研究员在报道中将AI假影片分为四种常见情境:第一类为名人换脸色情片,以合成影像侵害名誉与隐私;第二类为伪冒名人诈骗,利用“名人背书”诱导转账或投资;第三类为AI虚拟化身内容农场,以看似“真人出镜”的方式批量生产内容并夹带误导信息;第四类为搬运Sora影片等生成内容,可能在未说明来源或经过二次加工的情况下,造成观众误以为是现实拍摄。上述分类反映出风险不只存在于单一平台,而是横跨社群、短影音与资讯聚合渠道。

三种初步检核法:标注、以图搜图、情境合理性

在“普通人也能做”的层面,报道指出民众可采用三种方式进行初步辨识:其一,留意平台或内容是否有AI生成标注或来源说明;其二,通过以图搜图或反向搜索,检视相同画面是否曾在其他时间、以不同说法出现;其三,检视影片情境是否合理,例如发言人的身份、场景细节、事件时间线与公开信息是否相互矛盾。虽然这些方法不等同于专业鉴识,但能在扩散前降低“被带节奏”与“误信误传”的概率。

降低受害风险的实用清单

  • 涉及金钱或医疗建议的影片,务必交叉比对官方与权威来源再行动。
  • 遇到“名人荐股/荐币/荐药”等强刺激内容,先假设为高风险,再寻找证据推翻。
  • 把“先截图搜图、再看来源、最后查时间线”当作固定流程。
SOURCE REGISTER

来源登记

01中央社 CNA中央社 CNA