美国网络安全局长意外上传机密信息至ChatGPT

引言

美国网络安全局长意外上传机密信息至ChatGPT，这一事件是否预示着AI技术在政府层面应用的安全隐患？本文将深入分析这一事件背后的技术与政策挑战。

核心要点

• 机密信息泄露：美国网络安全和基础设施安全局（CISA）代理局长Madhu Gottumukkala不慎将敏感合同文件上传至公共版ChatGPT。
• 内部警告触发：上传行为触发了多个内部网络安全警告，这些警告旨在防止政府资料从联邦网络中泄露。
• AI工具使用风险：使用公共AI工具存在数据被保留、泄露或用于响应其他用户的风险。

美国网络安全局长的AI“噩梦”

据报道，美国网络安全和基础设施安全局（CISA）代理局长Madhu Gottumukkala去年夏天意外将敏感信息上传至公共版ChatGPT，引起了极大的关注和批评。据Politico报道，Gottumukkala上传的敏感CISA合同文件触发了多个内部网络安全警告，这些警告旨在防止政府资料从联邦网络中泄露。

Gottumukkala的特殊权限

Gottumukkala在加入该机构后不久，寻求特别许可使用OpenAI的流行聊天机器人ChatGPT，而大多数国土安全部（DHS）员工被禁止访问。DHS向Ars确认，相反，DHS员工使用经过批准的AI工具，如该机构的DHSChat，这些工具“配置为防止输入的查询或文件离开联邦网络”。

信息泄露的严重性

据报道，Gottumukkala泄露的信息并未被标记为机密，但被标记为“仅限官方使用”。DHS文件解释说，这一标记在DHS内部用于识别敏感的非机密信息，如果未经授权共享，可能会对个人的隐私或福利产生不利影响，或妨碍联邦及其他对国家利益至关重要的项目的运作。

ChatGPT的700万活跃用户

现在人们担心，这些敏感信息可能被用来回答ChatGPT的7亿活跃用户的提示。OpenAI没有回应Ars的评论请求，但Cyber News报道说，专家警告说，使用公共AI工具存在真正的风险，因为上传的数据可能会被保留、泄露或用于通知对其他用户的响应。

政府安全调查

Politico的消息来源称，DHS调查了这一事件，以确定是否可能损害政府安全——这可能导致行政或纪律行动。DHS官员告诉Politico，可能的后果可能从正式警告或强制性再培训到“暂停或撤销安全许可”不等。

CISA的公关回应

CISA的公关主管Marci McCarthy拒绝了Ars的请求，以确认去年8月启动的调查是否已经结束或仍在进行中。相反，她似乎强调Gottumukkala对ChatGPT的访问是临时的，同时暗示ChatGPT的使用与唐纳德·特朗普的命令一致，即在政府中部署AI。

深度解读：AI技术在政府层面的挑战

Gottumukkala作为美国顶级网络安全机构的代理局长，其在特朗普选择领导该机构的Sean Plankey因“海岸警卫队造船合同”被Sen. Rick Scott（R-Fla.）阻止后，由DHS秘书长Kristi Noem选择填补空缺。CISA在其新闻稿中庆祝他的任命，夸耀他在信息技术领域拥有超过24年的经验，并对基础设施安全的复杂性和实际现实有“深刻的理解”。

然而，批评者“在两党之间”都质疑Gottumukkala在CISA的作为，包括留在机构的员工和因对未来的不确定性而过早离开的员工。至少有65名员工被奇怪地重新分配到DHS的其他部分，引发了民主党的担忧，即CISA的员工可能被推到移民和海关执法（ICE）。

结语

这一事件不仅凸显了AI技术在政府层面应用的潜在风险，也引发了对网络安全政策和AI技术使用的深入思考。原文链接：US cyber defense chief accidentally uploaded secret government info to ChatGPT。