本月早些时候，音乐教学平台Soundslice创始人阿德里安·霍洛瓦蒂（Adrian Holovaty）解开了一个困扰他数周的谜团——大量明显是ChatGPT对话记录的奇怪图片持续被上传至该平台。
真相揭晓后，他意识到这个人工智能工具竟成了公司最卖力的“宣传员”，但它同时也在向用户谎报其应用的实际功能。
从编程传奇到音乐创业者
作为著名开源项目Django（Python网页开发框架）的联合创始人，霍洛瓦蒂在技术界享有盛誉（他于2014年退出该项目管理）。2012年创立的Soundslice至今保持着“零融资”的独立运营状态。如今他同时专注于音乐创作和创业事业。
这款面向师生的音乐教学应用，其核心特色是将视频播放器与乐谱同步，直观展示演奏要领。平台还提供“乐谱扫描”功能，用户上传纸质乐谱图片后，人工智能会将其转换为带标注的交互式数字乐谱。
诡异的错误日志
霍洛瓦蒂日常会审查该功能的错误日志以优化系统。近期他突然发现大量上传的并非乐谱图像，而是ChatGPT对话截图和ASCII指法谱（一种用普通键盘字符表示的吉他记谱法）。尽管这些文件尚未造成存储压力，但异常现象仍令他困惑数周。
谜底在他亲自测试ChatGPT后揭晓：这个人工智能正信誓旦旦地告诉用户，只需注册Soundslice并上传聊天截图，就能将文字乐谱转换为可播放音乐——这完全是虚假承诺。
声誉危机与两难抉择
“最大的代价是声誉损失，”霍洛瓦蒂解释道，“新用户抱着错误预期而来，却发现我们根本做不到ChatGPT宣称的功能。”团队面临抉择：是在网站铺满免责声明，还是妥协开发这个从未规划过的冷门功能？
最终他们选择了后者。但这位创始人坦言内心矛盾：“开发帮助用户的功能令人欣慰，但这种被迫妥协的方式实在荒诞。我们真该为纠正错误信息而开发新功能吗？”
这可能是首个有记载的案例：企业因人工智能的集体性幻觉而被迫调整产品。Hacker News论坛的程序员们将此比喻为“过分热情的销售胡乱承诺，倒逼工程师填坑”，霍洛瓦蒂认为这个对比“既精准又滑稽”。
