OpenAI近日宣布，已封禁一批涉嫌与柬埔寨波贝电信诈骗团伙有关联的ChatGPT账号，首次公开确认了ChatGPT滥用的具体案例。调查显示，诈骗团伙利用人工智能批量生成诈骗话术、撰写沟通内容，并制作虚假文件，以此协助运营虚假投资平台、网络交友诈骗和冒充执法机关等多种违法项目。\n\n该团伙通过社交平台与受害者建立信任后，诱导其投资加密货币、黄金等高收益项目，或以“中奖通知”“涉嫌违法需缴纳保证金”等借口骗取资金。AI生成的假护照、法律通知和投资确认单等伪造材料，极大提升了骗局的可信度。\n\n人工智能技术被不法分子滥用的现象并非首次。此前，多个国家已披露利用AI生成深度伪造视频（deepfake）进行诈骗的案例，显示出技术进步与监管滞后的矛盾。此次OpenAI的行动表明，平台方正加强对异常账号的监控与封禁，以遏制AI工具的非法使用。\n\n深度解读认为，ChatGPT滥用不仅涉及金融诈骗，还可能关联人口贩运与强迫劳动。调查中发现，团伙通过发布虚假招聘广告，诱骗印度籍人员前往柬埔寨，从而构筑了跨国犯罪链条。若不及时干预，类似模式可能在东南亚乃至全球蔓延。\n\nOpenAI已关闭相关涉案账号，并将线索移交合作机构及相关部门进一步处理。当地执法部门是否已对实体诈骗窝点展开行动，目前暂无公开消息。\n\n
公开资料显示，柬埔寨近年积极发展数字经济，政府已推出多项鼓励AI创新的政策，但监管框架仍在完善中。此前，柬埔寨曾因未受控的AI聊天机器人被用于散布误导信息而受到关注，相关部门已开始审查平台合规性。
事件经过
一般情况下，东南亚地区对AI工具的监管正逐步趋紧，ASEAN成员国已就AI伦理与安全展开合作。针对ChatGPT滥用的调查仍在进行，官方尚未对具体案件作出正式声明。
官方通报
截至目前，OpenAI已将被封禁的账号信息移交柬埔寨相关执法部门，并配合当地警方开展技术取证，案件仍处于取证与分析阶段，相关部门正评估是否进一步扩大跨境合作以追踪幕后操控者。
一般情况下，ASEAN AI安全工作组已启动针对ChatGPT滥用的专项讨论，公开资料显示各成员国正就平台监管标准展开协调，预计将在本季度内形成初步指导意见，供柬埔寨等国参考落实。并推动本地区合规框架的完善。
来源：东南亚快曝光 Telegram频道 @F_KBG
原文链接：查看Telegram原消息
