400-028-4501

公司动态

Company Dynamics

了解我们的最新资讯动态

知微见著 | 捍卫数据安全,我们需要怎样的AI?

        

2023年初以来,ChatGPT成为现象级互联网应用,带着各种大模型火“出圈”的同时,其安全性也引发争议。


据报道,目前已有不少巨头企业明令禁止员工在内部网络中使用ChatGPT,以防员工泄露企业机密:


由于发现ChatGPT会模仿内部代码,亚马逊早在1月就要求员工不要将代码输入ChatGPT;

声称20天内因ChatGPT发生了3起数据泄露事故,韩国三星电子已禁止员工使用ChatGPT等“生成式 AI” 工

日本软银集团向全体员工通报了禁止在 ChatGPT 中输入机密信息等注意事项,还计划制定交互式 AI 的使用规范;

摩根大通、美国银行和花旗等华尔街大行已禁止或限制使用ChatGPT



更有多国明确禁止使用ChatGPT:

3月31日,意大利个人数据保护局宣布,从即日起禁止使用ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息;

4月13日,西班牙国家数据保护局发表声明,称已经正式对ChatGPT可能的违反法律行为展开初步调查程序。


各行各业渴望拥抱技术来实现生产力的解放,却又时刻为数据安全问题而担忧。尤其是在一些数据高敏感行业涉及公共数据的收集、存储、开放、流通和共享时,往往因为“不敢”用和“不能”用,难以发挥资源化价值。


如何降低数据安全风险而让企业“敢于”利用AI辅助?如何提升技术能力而“能够”切实释放人力?或许我们可以从AI的技术原理来找到答案。



从哲学视角来追溯,在人工智能的发展历程中,存在着经验主义和理性主义(逻辑主义)两种不同的路径,它们代表了两种不同的思维方式和方法论,并划分出两类技术应用——“经验主义AI”和“理性主义AI”





哲学认识论有经验主义和理性主义之分,简单区别,经验主义认为一切知识都通过经验(观察与实验)获得,并在经验中得到验证。理性主义认为逻辑推理才是通往知识的正确路径。





经验主义AI


基于数据驱动的方法,通常使用机器学习和深度学习算法来分析大量数据并从中提取规律,然后使用这些规律来做出决策和预测。这种方法依赖于大量的训练数据,并且对于不同的任务需要不同的训练数据,而不是根据预定义的规则和逻辑推理来设计算法现在大火的ChatGPT等大语言模型就是经验主义进化论的“产物”




理性主义AI


基于逻辑推理和符号推理的方法,通常使用知识表示和推理技术来表达和推理复杂的概念和关系。这种方法强调使用先验知识和推理来设计算法,而不是依赖于数据和统计方法;需要精心设计的知识库和推理引擎,并且对于不同的任务需要不同的知识库和推理引擎。联著的语义工程技术就是理性主义AI的典型代表。



图片




实际上,我们现在看到的 ChatGPT等这类基于深度学习技术的语言大模型,它们并没有探索人脑结构和认知机制,仍然是一种基于神经网络大规模训练的“黑箱模型”


尽管它在自然语言理解方面确实取得一些实践性进步,但前提是必须通过大规模的数据训练来捕捉经验;尽管它具有一定的自注意能力,但缺乏自主意识、情感和创造能力,对于未接触的领域不能像人脑一样进行跨领域、跨模态地学习和推理;而且,一旦要修改调整就需要重新大规模训练



相比之下,联著语义工程技术的AI,无需大量数据大规模训练,只需通过建立语义知识框架,理解逻辑规则就能做出延伸推理,不断积累扩充更新语义知识库,实现对自然语言语义的高保真识别,且可以依据不同行业的逻辑需求变化,灵活修改变更规则,这些优势使得我们的产品尤其适配档案、金融等各类数据高敏感行业



图片


例如在档案行业,联著实业以语义工程技术为支撑,与档案的文本形态、数据敏感等行业属性契合,积极布局语义赋能档案治理产品体系,开发出“档案智能开放审核系统”“档案前置智能开放审核系统”“档案智能语义查询”“档案专用OCR”“档案智能辅助编研”等系列产品,为档案应用智能化提供解决方案,助力档案资源高效开放利用,以期便捷社会公众查阅利用档案资源。

截至目前,联著系列产品已覆盖全国30省市,服务各级国家综合档案馆60余家,累计审核档案800万余件,档案审核正确率达98.9%,档案开放审核效率平均提升30倍


放眼未来,联著实业将继续“以技促用”,推动“AI+”行业应用创新发展。以语义工程技术为抓手,触达多行业领域,语义赋能内容审核,提升数字化在多业务场景的覆盖度;优化产品结构,以技术洞察推动业务升级,成就客户实现更大价值。



来源参考:
[1]https://mp.weixin.qq.com/s/LRQ8G1nqkhF3oaB4pRKX6g《重磅!<数据安全治理白皮书5.0>》正式发布

[2]https://mp.weixin.qq.com/s/MyyUMNPGMWqufu6PDgHZoA《苹果禁用ChatGPT,为防机密泄露!大模型版Siri即将升级推出》




在线客服
返回顶部
返回底部