危机四伏!如何在数字时代保护个人隐私?
近日,多家政企单位发布风险警告称,用于私有化部署的DeepSeek等大模型所依赖的境外开源工具Ollama,在默认情况下并未配置身份验证和访问控制功能。这意味着其默认的服务API接口(http://XX.XX.XX.XX:11434)可能在未经授权的情况下被调用。攻击者能够远程访问此接口,进而利用私有大模型的计算资源,窃取知识库或注入虚假乃至有害的信息。
360织语的产品专家指出,政府部门和企业单位在实施私有化部署大型模型时,必须重视人工智能特有的安全风险,确保在模型的部署、训练及应用等各个阶段进行全面的安全保护。
近九成服务器无防护!
算力盗用、数据泄露风险猛增
Ollama是一个非常实用的工具,它简化了获取和运行大模型的过程,支持包括DeepSeek、Qwen、Llama、Phi-4、Mistral、Gemma2在内的多种先进语言模型。这一工具的推出,无疑为研究者和开发者提供了一个强大的平台,使他们能够在服务器上轻松部署和使用这些复杂的模型。这不仅加速了人工智能技术的发展步伐,也为各行各业的应用创新提供了更多的可能性。随着技术的不断进步,我们有理由相信,像Ollama这样的工具将会变得越来越重要,成为推动AI领域向前发展的关键力量之一。
随着DeepSeek等性能强大的开源模型发布,越来越多的政企单位开始尝试在本地部署私有化AI服务。其中,Ollama凭借其便捷的部署体验,成为了站在风口浪尖的“明星工具”。
然而,近期,安全研究机构发现,在8971个运行Ollama大模型框架的服务器中,有6449个是活跃的。令人担忧的是,其中88.9%的服务器未能采取有效的安全防护措施,导致它们“裸奔”在互联网上。这种情况不仅使这些服务容易受到未经授权的访问,还大大增加了服务被滥用以及数据泄露和服务中断的风险。更严重的是,攻击者甚至可能通过发送指令来删除如DeepSeek、Qwen等大模型文件,从而进一步威胁系统的整体安全性。 这样的情况无疑给依赖这些大模型技术的企业和个人敲响了警钟。随着人工智能技术的快速发展,确保其背后基础设施的安全性变得至关重要。企业和开发者们需要更加重视安全防护措施,及时修补漏洞,以防止潜在的恶意攻击。同时,相关监管机构也应该加强对这一领域的监督,制定更为严格的安全标准,保护用户的数据安全和隐私。
在某网络空间测绘引擎上,很容易搜出安装Ollama的API接口
当前,近期发现有自动化脚本扫描到处于“裸奔”状态的DeepSeek服务器,恶意占用大量计算资源,导致部分用户服务器算力被盗用并出现崩溃情况。
效率与“隐患”并存
政企用大模型应先安全“铸基”
政企组织在使用Ollama部署大模型时,除了需要迅速采取有效的安全防护措施外,还应重视人工智能带来的独特安全挑战。从部署、训练到应用的每个环节,都需要进行全面的生命周期安全管理。这不仅包括技术层面的防护策略,还涉及组织内部的管理流程与人员培训。只有这样,才能有效防范潜在的风险,确保大模型的平稳运行和数据的安全。 这种全面的安全管理方法体现了现代政企在数字化转型中的成熟态度,即不仅要追求技术的先进性,更要注重技术应用过程中的安全性。通过这样的方式,不仅可以避免因安全漏洞引发的重大事故,还能增强公众对新技术的信任,从而推动整个行业的健康发展。
专家建议,已部署DeepSeek服务的企业和个人应尽快调整Ollama的相关设置。为增强安全性,应及时引入身份验证机制,并更新防火墙和入侵检测系统的配置。例如,可以通过设定IP白名单来控制访问权限,确保只有经过授权的人员才能访问模型服务;还可以利用反向代理实施身份验证和授权(如采用OAuth2.0协议),以阻止未授权用户的访问。
对于需要严格遵守安全规定的政企单位而言,在引入和使用大模型时必须更加谨慎,并确保在整个生命周期内实施全面的安全防护措施。“我们建议用户在接入DeepSeek之前,首先部署一个专门的大模型训练和推理平台。”360织语的产品专家表示,以360的大模型训练和推理平台为例,该平台能够对大模型进行专业的全生命周期管理。平台不仅可以根据行业需求进行定制,还具有训练推理和工具集成等功能,可以高效地组织、存储和处理用户特定领域的训练数据,从而全方位保障数据的安全性和合规性。
据了解,为了满足用户在安全合规、大模型深度使用方面的需求,360织语已基于360大模型训推平台推出了“DeepSeek大模型一体机”解决方案,提供了从底层算力、模型服务、训练能力、应用开发的全栈解决方案,为政企打造“数据不出域、性能更高效”的AI服务新范式。
免责声明:本站所有文章来源于网络或投稿,如果任何问题,请联系648751016@qq.com
页面执行时间0.038149秒