随着本周初最新模型的发布,OpenAI似乎无意中将ChatGPT调校成了强大的地理定位高手。科技媒体TechCrunch指出,新推出的o3和o4-mini模型在“反向位置搜索”任务中表现如此出色,以至于炫耀这项新功能已成为社交媒体上的病毒式潮流。不过这种“大海捞针”般的地理定位能力提升也引发了隐私担忧,社交平台上的专业地理猜谜玩家或许也要捏把冷汗。
ChatGPT这项新能力是其模型更新后增强视觉推理的典型体现。如今它能够基于上传图像内容进行推理,还能完成裁剪、旋转、放大等类似Photoshop的操作。据源报道显示,众多用户正在使用这个著名AI聊天机器人来精确定位各类图片的拍摄地点。当前流行的玩法是让ChatGPT模拟在线游戏GeoGuessr(地理猜猜乐),根据提供的图像给出定位答案。AI爱好者、视频博主兼X平台用户Brendan Jowett分享的案例就展示了ChatGPT的地理定位“占卜”技能。
正如Jowett所指出的,这项新流行的ChatGPT“反向图片搜索”功能涉及隐私隐患,尤其可能助长人肉搜索(doxing)行为——即在互联网上公开他人私人信息(特别是住址位置)的行为。通常人肉搜索带有恶意目的,实施者企图煽动极端分子骚扰受害者。
有趣的是,TechCrunch指出ChatGPT的“地理猜猜乐”能力并非o3和o4-mini发布后才出现,只是相关话题热度突然飙升。据报道o3特别擅长反向位置搜索,但此前发布的、不具备图像推理能力的GPT-4o模型有时反而能更频繁地给出正确答案。
需要说明的是,即便是最新模型,ChatGPT的地理定位功能也并非完全可靠。OpenAI就此次病毒式传播的地理定位热潮发表声明称:在通过视觉推理等功能优化工具的同时,他们也着力训练模型拒绝提供隐私或敏感信息。虽然创意用户可能暂时绕过防护机制,但OpenAI表示会对违反使用政策的行为采取行动。