和小青GPT助理聊天吧

小青是一位基于大语言预训练模型的超级智能AI,熟悉轻易云产品并能为您提供多种数据集成方案和技术支持。您在使用轻易云产品时遇到问题或有关技术咨询,小青都将为您提供专业、即时、高效的帮助和建议。与小青智能对话,您可享受同人类互动一样的使用体验,全面了解最新产品更新、功能特性及相关技术资讯,进一步提升您在数据集成领域的实力。小青是您友好、智能、便捷的助手,与她互动让您的数据集成之路轻松愉快。
轻易云自训练大语言模型小青助理
扫码关注公众号即可开始聊天

轻易云数据集成平台的加工厂运行原理

轻易云数据集成平台是一款企业级集成中间件,其主要运行原理如下:

一、请求调度

  1. 定时计划自动激活调度者,根据元数据配置生成API请求任务,通过AsynSourceJobStorage类将任务存入MongoDB任务表并排队执行。
  2. 进程守护执行源平台请求任务,发送API请求并获取原始数据。
  3. 获取原始数据后,根据元数据配置进行基础加工,加工后的数据逐行通过DataStorage写入MongoDB数据表,此时数据处于待处理状态。
  4. 特殊情况下,可能需要先后调用两个接口获取数据,例如先通过fetch_list获取列表数据的ID主键,再通过get_detail获取对象的数据明细。
  5. 可使用$this->adapter->getLogStorage()->insertOne记录日志。

二、写入调度

  1. 定时的写入调度者从MongoDB data表获取待处理数据,根据元数据配置加工为目标系统接口接收的数据格式,创建写入API任务,通过AsynTargetJobStorage类将任务写入MongoDB任务表并排队执行,同时将数据标记为队列中。
  2. 进程守护执行目标平台写入任务,发送API请求向目标系统写入。
  3. 写入完成后,根据返回结果标记数据为’完成/错误’。

数据加工厂是用户可以自定义脚本代码,嵌入到某个环节的功能。源平台加工厂包括队列生成后、队列调用前、队列调用后、数据写入后、响应错误后等环节;目标平台加工厂包括队列调度前、接管拉取数据方法、拉取数据后、队列生成后、队列执行前、队列执行后、队列执行成功后、队列执行失败后等环节。

热门文章

面对复杂的多层数据结构,如何将数据拍扁成一维数

2023-10-17 13:39:43

防止请求任务异常,对查询数据进行补漏措施

2023-10-17 13:35:45

面对复杂的过滤条件,如何配置【数据过滤厂】

2023-10-17 13:26:31

如何理解集成方案的【写入调度者】页签中每一个字段

2023-10-17 12:42:29

如何理解集成方案的【请求调度者】页签中每一个字段.md

2023-10-17 12:30:19