为了给您提供更优质的服务,请您先完善以下信息:
确认提交

扫码关注

爱数技术支持中心公众号

请选择:

请选择咨询类型

AnyShare
AnyBackUp
AnyRobot

扫码关注

爱数技术支持中心公众号

contact us

提交成功!

我们将在 24 小时之内联系你。

性能爆表
AnyShare
如何购买
我已是Anyshare 客户
AnyRobot
如何购买
购买 AnyRobot 订阅服务
我已是 AnyRobot 客户
一对一在线咨询
我是 AnyRobot 新客户
一对一在线咨询

爱数博客

全部 AnyBackup AnyShare AnyRobot AnyDATA AnyFabric

AnyShare Family 7内容处理框架解读

2023-12-26 1149 0

为了应对数据不合规、数据泄漏和计算机病毒(如勒索病毒)等风险对企业数字资产的威胁,AnyShare Family 7实现了完备的内容处理框架。随着客户需求的不断挖掘,目前内容处理框架可用于内容识别、摘要提取、搜索等多种场景。完整的应用场景如下:
 

需求类型                       业务功能 内容处理功能
安全管控 文档水印功能 文档水印
安全管控 文档脱敏功能 文档脱敏
安全管控 文档加密功能 文档加密
安全管控 文档外发包功能 文档外发包
安全管控 文档杀毒功能 文档杀毒
安全管控 敏感,非法内容识别功能 敏感词检测(FTA),敏感非法图片,视频检测
多场景使用 图片缩略图功能 图片缩略图
多场景使用 视频缩略图功能 视频帧截图
多场景使用 多格式视频播放源功能 音视频转码
多场景使用 文档摘要功能 文档摘要生成(FTA)
搜索 文本文件全文搜索功能 文本提取(tika)
搜索 多媒体文本内容全文搜索 图片OCR(OCR),音视频文本内容提取
搜索 文档标签搜索 文本标签提取(FTA),图片对象识别(OD),音视频结构化分析
搜索 图片搜索(近似图片,包含图片)功能 图片特征提取(OD)
搜索 相似文本搜索功能 文本特征提取(FTA)
内容识别 人脸识别功能 人脸检测,特征提取(FR)
内容识别 票据,表格,证件识别功能 图片OCR,结构化数据(OCR)
内容识别 文档信息获取功能 文档信息获取,图片,视频信息提取(IGI)

我们可以通过杀毒服务和加解密服务来了解内容处理框架是如何运作的。


内容处理服务(Content Pipeline)作为OSS网关服务的一部分,为上游业务服务(内容应用服务,例如元数据,杀毒,文档集,内容分析及检索)提供内容处理能力,按需将原始内容生产适合上游应用服务使用的内容。


内容处理涉及的服务逻辑结构:

 

杀毒原理和应用

AnyShare 杀毒服务,提供实时杀毒、选择文档范围主动发起杀毒的功能。通过启用杀毒服务,可以对文件进行安全管控,未经杀毒的文档不允许下载、预览;也可以对病毒文件采取修复或隔离操作。

杀毒服务的模块交互如下:

  • efastdaemon(文档访问微服务)将文件上传、编辑等事件,发送到消息队列,entivirus监听事件,生成上传杀毒的任务。

  • entivirus 调用 efastdaemon 的API,获取文档信息、文档下载地址,查杀病毒后,将文件标记未无毒,或者通过API将文件隔离。

  • entivirus 访问 对象存储服务,下载待查杀的文件。

  • sharemgnt_server 中包含查杀病毒管理和病毒库管理,提供了初始化主动杀毒任务、查询杀毒任务进度、更新病毒库等功能。

  • sharesite_server 在分布式跨地域部署场景下,总站点病毒库更新后,会同步病毒库下载地址到分站点,分站点sharesite_server调用分站点 sharemgnt_server 的接口更新病毒库。

  • 杀毒任务管理,病毒库管理,相关信息会持久化到MySQL中。

目前AnyShare内置了瑞星杀毒服务,如果要对接其他厂家的杀毒服务,可以通过实现特定的thrift协议来完成。

加解密原理和应用

加解密服务用于满足客户的数据安全需求,可以实现本地密文文件上传到AnyShare后解密并生成摘要标签等用于文档搜索和管理,下载文件时为密文文件;也可以实现本地为明文文件(可信环境)上传后存储为密文文件,防止数据泄漏。

文件的加解密处理流程如下:

  • 文档集微服务生成任务(包含任务id,文件doc_id列表等信息)并推送到消息队列中

  • 第三方应用微服务订阅相关消息进行任务处理

  • 第三方应用微服务调用文件下载接口

  • 第三方应用微服务获取文件下载地址

  • 第三方应用微服务通过文件下载地址从对象存储获取文档

  • 第三方应用微服务加解密处理

  • 第三方应用微服务加解密或其他动作完成后,调用请求上传文件接口

  • 第三方应用微服务获取文件上传地址

  • 第三方应用微服务上传文件

  • 第三方应用微服务回执加解密完成的nsq消息

  • 文档集微服务获取回执的nsq消息

目前AnyShare已实现华途、亿赛通、绿盾、IPGuard等多个DLP厂商的加解密服务做集成。如果有其他DLP厂商的加解密需求,可以通过实现特定的grpc协议接入。

请就本文对您的益处进行评级:

标签

产品技术

相关文章

热门标签

版本发布 在线教学
ai-assistant
chat
support
trial
需求助手 (内容由 AI 大模型生成,请仔细甄别)