根据在加利福尼亚提起的诉讼,OpenAI使用个人信息,包括医疗记录、儿童数据,甚至访问私人对话来训练其人工智能模型。
不仅仅是ChatGPT,其他工具如Dall-E、Codex和Whisper也是使用了违反隐私和安全的实际人员数据进行训练。
ChatGPT回答问题就像人类一样,像真人一样撰写论文,通过模拟他们的经验生成内容,甚至像历史人物一样写作。所有这些都来自它可以访问的数据,现在它的创造者OpenAI被控告窃取了真实人员的个人信息。
诉讼指控了什么?
起诉书中提到的原告由于只提及了他们的姓名首字母,因此他们的身份保持匿名,但他们指控ChatGPT存在灾难性风险。他们声称,所有这些可以识别个人身份的信息是从数百万人那里窃取出来的,用于训练AI使其更加类似人类。
基本上,OpenAI被指控仅仅是收集和使用用户在其他平台上提供的任何个人信息,而不寻求同意或接触任何个人。这意味着ChatGPT和Dall-E实际上是在基于那些甚至对此毫不知情的人们的私人生活带来利润。
原告还提到,如果没有以不道德的方式提取的大量数据,OpenAI将无法创建带来数十亿收入的生成式人工智能。物理位置、聊天记录、联系信息、搜索历史,甚至是从浏览器中获取的信息都是在用户不知情的情况下被获取。
原告要求什么?
根据诉讼,情况变得更糟,因为OpenAI在推出其产品时甚至没有部署必要的保护私人数据的措施。
诉讼要求OpenAI在其数据收集方法方面透明,对被窃取信息进行赔偿,并为人们提供退出其数据收集活动的选择。
OpenAI在数据隐私方面的记录如何?
在此之前,有报道称OpenAI还使用了其竞争对手谷歌旗下的YouTube的数据,以训练ChatGPT和其他生成式人工智能工具。报道声称,由于YouTube是图像、文字转录和音频的最大来源,ChatGPT秘密使用了YouTube。
这些指控是在谷歌自身被指控使用ChatGPT的数据来训练其自己的AI机器人Bard几个月后出现的。
由于数据隐私问题,ChatGPT还在意大利被禁止使用,因为政府试图阻止其使用数百万公民的个人信息。但几个月后,当意大利监管机构对OpenAI采取的安全措施感到满意后,该禁令被解除。
但这并非OpenAI的麻烦之终,因为日本也因ChatGPT的数据隐私问题向该公司发出了警告。
至于诉讼,OpenAI只声明在必要时将收集用户的电子邮件、付款信息和姓名。但该公司从互联网其他角落获取数据以训练其模型的事实从未被提及。