在一份最新报告中，OpenAI警告说，越来越多与中共相关的团体正在利用ChatGPT进行秘密操控。尽管这些活动的规模相对较小且目标明确，但其手法和影响范围正在不断扩大。
自2022年底推出ChatGPT以来，生成式人工智能的滥用风险引起了广泛关注。OpenAI指出，这种技术不仅可以生成与人类相似的文字、图像和语音内容，还为网络操控和假信息传播提供了高效的工具，其速度和效率远超人类的能力。
OpenAI持续监测并定期披露其平台上发现的恶意使用案例，包括利用ChatGPT开发或测试恶意软件，以及在网站和社交媒体上散布虚假信息。报告中提到的一个案例显示，有账号专门针对与中国相关的政治和地缘政治话题生成内容。这些内容包括对台湾相关电子游戏的批评、捏造针对巴基斯坦维权人士的指控，以及传播有关美国国际开发署（USAID）关闭的虚假消息。OpenAI已采取措施封锁这些账号。
此外，部分内容还涉及对美国前总统特朗普关税政策的抨击，例如在社交媒体X上发布的帖子指出：“关税让进口商品贵得离谱，政府却还在大手笔援助国外。我们老百姓到底该怎么活？”
另一个案例显示，与中共有关联的恶意账号正在利用AI技术支持其网络行动，包括进行开源情报搜集、修改脚本、调试系统配置，以及开发密码暴力破解工具和社交媒体自动化脚本。OpenAI还发现，中共主导的认知战通过生成立场极化的社交内容和AI假账号，针对美国内部的敏感议题挑起对立，旨在加深社会分歧。
如今，OpenAI已成为全球最有价值的私人企业之一，最近一轮融资的估值高达3,000亿美元，并计划进行规模达400亿美元的新一轮募资。