Elasticsearch 创始人给腾讯云的感谢信

腾讯云工程师优化了Elasticsearch高并发写入性能,将1000万数据量写入时间从18分钟缩短至15分钟,速率提升20%。此次优化源于腾讯内部大数据服务平台的真实业务需求,通过优化rollGeneration,显著提升了数据分析效率。

640?wx_fmt=jpeg

近日,Elasticsearch 的创始人兼首席执行官Shay Banon 向腾讯云发出了一封“特别”的邮件,专程对腾讯团队为Elasticsearch开源社区做出的贡献表示了感谢。

据了解,腾讯工程师通过提交代码,成功优化了Elasticsearch高并发写入性能,实现将1000万数据量的写入时长从原来的18分钟缩减至15分钟,速率提升20%,并在Elasticsearch开源社区分享了项目方案。

 

Shay Banon 在发给腾讯副总裁、腾讯云总裁邱跃鹏的感谢信中表示:

 

“我们最近对Elasticsearch进行了重大而巧妙的改进,这是由腾讯的一位开发者提出的。这种改进使Elasticsearch的某些类型的写速度提高了约20%,我们非常期待后续腾讯云继续保持这种良好的合作关系。”

 

事实上,在今年5月的腾讯全球数字生态大会上,腾讯云与Elastic签署了战略合作协议。双方同意在产品、技术、生态三个维度展开合作,依托Elastic在搜索软件领域的产品和技术优势,以及腾讯云在云计算大数据领域的技术能力和市场资源,双方联合推出具备高级商业特性的腾讯云Elasticsearch Service ,该版本上线了集群权限管理、SQL、机器学习、图查询等高级功能。并结合腾讯云全球领先的公有云架构,实现Elasticsearch集群应用的低成本、易开发、易管理、高可用、高安全性。

 

其实,这次源码优化的契机,源自腾讯内部一站式智能化的大数据服务平台全民BI的真实业务场景,其中,全民BI的统计功能,在底层使用了Elasticsearch的开源代码。在实际使用中,因为存在历史数据比对的需求,需要每天全量导入新的数据。数十亿级的数据量,超过500个标签,需要尽可能的快速的导入到ES系统中,但这一块经过多次的参数优化,依然需要几个小时才能完成导入,是整个系统的一大瓶颈。

 

在此背景下,腾讯全民BI团队开始着手优化Elasticsearch高并发场景下的写入性能。项目团队通过分析ES的写入机制,在多次堆栈分析取样中,发现较多线程因writeLock被rollGeneration占用,在获取锁的等待上耗时偏长。因而将优化的着力点,从参数的调优转移至线程的优化。项目团队最终在实验理论值的基础上,通过优化rollGeneration,实现将1000万数据量的写入时长从原来的18分钟缩减至15分钟,速率提升20%。

 

“非常感谢Elastic公司创始人之一和技术负责人Simon Willnauer的支持和建议,本次优化大幅度提升全民BI系统的数据分析效率,接下来,这些领先的特性都能够在腾讯云Elasticsearch Service上获取。” 主要负责人表示。

 

更加值得期待的是,这次优化只是一个开端,未来仍存在较多优化空间,腾讯云目前正在积极与开源社区沟通中。

 

值得注意的是,这次社区代码贡献并不是腾讯的个别案例,从2010年开始,腾讯就开始通过“三步走”的开源计划,积极推动代码开放和社区参与,从封闭孤立向协同开放和社区开放治理的纵深方向发展。

 

“我们将通过内外部开放源代码的方式,积极参与全球科技共同体的构建。”腾讯公司董事会主席兼首席执行官马化腾在八月底重庆召开的2019智博会高峰论坛上表示。

 

如今,腾讯正以发起者、贡献者等不同方式积极参与开源。在社区贡献方面,腾讯已经获得 OpenStack 社区、Linux 基金会、LFAI 基金会、MariaDB 基金会、Apache 基金会等多个白金会员或白金赞助商身份。

 

去年,腾讯云向 KVM 内核贡献了 40 个 patch,连续第二年登上 KVM 全球开源贡献榜,也成为中国唯一入选云厂商。今年初,腾讯云正式发布基础设施层面四大核心技术项目,分别涵盖数据中心、网络、服务器以及自动化平台领域,并宣布将这四大技术项目全部贡献给开源 OCP 社区。

 

而在自主开源方面,截至2019年8月,腾讯已在Github上发布82个开源项目,包含微信、腾讯云、腾讯游戏、腾讯AI、腾讯安全等相关领域。腾讯发起的开源项目累计在 Github 获得了24W+ Star数,在国内和国际收获了广泛的关注和认可。

 

未来,腾讯还将进一步拓宽开源的范围,在开放、共享、合力开发的研发模式中,不断夯实已有的技术能力,不断深化与开源伙伴间相互促进的良性关系。

640?wx_fmt=jpeg

内容概要:本文针对功率阶跃工况下光储虚拟同步发电机(VSG)并网系统存在的电能质量问题,提出一种自适应治理策略。通过Simulink搭建完整的光储VSG并网系统仿真模型,重点研究在功率突变条件下系统出现的频率波动、电压畸变及谐波增加等动态问题。所提策略结合VSG的惯量与阻尼特性,设计了参数自适应调节机制,实现对系统动态响应过程的有效调控,显著提升了并网电流波形质量与频率稳定性,增强了系统在强扰动工况下的鲁棒性与电能质量治理能力。; 适合人群:具备电力电子、自动控制理论及新能源并网技术基础的科研人员、电气工程及相关专业的硕士/博士研究生,以及从事微电网、储能系统、VSG控制研发的工程技术人员。; 使用场景及目标:①用于分析光储系统在功率阶跃等动态工况下的并网特性与电能质量演变规律;②为VSG关键控制参数(如惯量、阻尼)的自适应整定提供设计思路与仿真验证平台;③支撑高水平学术论文复现、科研课题攻关及实际工程项目的前期控制策略验证。; 阅读建议:建议结合Simulink仿真模型深入理解控制策略的实现逻辑,重点关注VSG惯量阻尼协同调节的自适应机制设计,可通过设置不同功率阶跃幅度、光照强度变化及负载投切等多场景进行仿真测试,全面评估策略的动态性能与适用边界。
内容概要:本文系统研究了基于ARIMA-CNN-LSTM的混合时间序列预测模型,并提供了完整的Python代码实现。该模型融合传统统计方法ARIMA与深度学习模型CNN和LSTM的优势,充分发挥ARIMA在捕捉线性趋势与季节性特征方面的能力,以及CNN和LSTM在提取局部特征和建模长期依赖关系方面的强大性能,从而有效提升对复杂非线性时间序列的预测精度。研究涵盖了数据预处理、模型构建、参数调优、训练与预测全流程,并通过实际案例验证模型在风电、光伏、负荷、电价等能源领域预测任务中的优越表现。文档还整合了电力系统、路径规划、信号处理等多个科研方向的仿真资源与代码示例,凸显其在学术研究与工程实践中的广泛应用价值。; 适合人群:具备一定Python编程基础和机器学习理论知识,从事科研或工程技术工作的研究人员,特别适用于关注时间序列分析、深度学习建模的硕士生、博士生及行业从业者。; 使用场景及目标:①深入理解并掌握ARIMA与深度学习模型(如CNN、LSTM)融合的建模范式与技术细节;②应用于能源领域中风电出力、光伏发电、电力负荷及电价等关键变量的高精度预测;③为科研课题、学术论文复现、工程项目优化等提供可靠、可复用的代码框架与技术支持。; 阅读建议:建议结合所提供的Python代码进行动手实践,重点剖析数据预处理流程、混合模型架构设计及超参数调优策略,同时可参考文档中其他相关研究案例以拓宽技术视野和应用场景认知。
内容概要:本文围绕谐振式双有源桥(DAB)变换器,深入研究了一种无需电流传感器的模型预测控制(MPC)方法,并基于Simulink平台完成了完整的仿真实现。该方法通过构建精确的系统数学模型,替代传统依赖物理电流传感器的状态观测方式,有效降低了系统硬件成本与布线复杂度,同时提升了系统的可靠性和集成度。研究重点涵盖系统建模、预测模型构建、目标函数设计、约束条件处理以及控制律求解等关键环节,充分体现了模型预测控制在电力电子高频软开关变换器中的高动态响应、高稳态精度与强鲁棒性的优势。文中通过仿真验证了该无传感MPC策略在不同工况下的控制性能,展示了其在抑制电流冲击、提升能量转换效率及增强系统稳定性方面的良好表现。; 适合人群:电力电子、自动化、电气工程及其相关专业的硕士研究生、博士生、高校科研人员,以及从事DAB变换器拓扑设计、先进数字控制算法开发与新能源电能变换系统研发的工程技术人员。; 使用场景及目标:① 掌握谐振式DAB变换器的工作原理及其无传感控制的设计思路与实现路径;② 深入理解模型预测控制在电力电子系统中的建模方法、优化求解过程与仿真验证流程;③ 为开展无传感器驱动、高频隔离DC-DC变换、数字电源控制等前沿课题提供可复现的技术方案与仿真基准平台。; 阅读建议:建议结合提供的Simulink仿真模型同步学习,重点关注状态观测器设计与预测模型的耦合机制,动手调整系统参数与控制权重以观察动态响应变化,深化对MPC控制机理的理解,并可进一步拓展至其他软开关拓扑或融合人工智能优化算法进行性能提升研究。
内容概要:本文详细介绍了基于非线性反步法与Lyapunov-MPC模型预测控制相结合的自主水下航行器(AUV)轨迹跟踪控制方法,并完整实现了包含经典Fossen动力学模型的Matlab仿真代码,复现了高水平期刊研究成果。该方法通过反步法逐级构造控制律,结合Lyapunov函数确保系统全局渐近稳定性,同时引入模型预测控制(MPC)优化未来动态行为,有效提升控制器在复杂海洋环境下的轨迹跟踪精度、抗干扰能力与系统鲁棒性。整个设计充分体现了非线性控制理论与现代优化控制策略的深度融合。; 适合人群:具备自动控制原理、非线性系统分析、现代控制理论基础,熟悉Matlab/Simulink仿真工具,且从事水下机器人、无人航行器、航空航天、智能控制等方向研究的研究生、科研人员及工程技术人员。; 使用场景及目标:①用于自主水下航行器、无人机等强非线性系统的高精度轨迹跟踪控制器设计与仿真验证;②支撑高水平学术论文复现、科研课题攻关或实际工程原型开发,掌握先进复合控制策略的设计流程与实现技巧;③深入理解反步法、Lyapunov稳定性理论与模型预测控制三者协同设计的理论依据与工程应用价值。; 阅读建议:建议读者结合Fossen动力学建模理论,逐步调试Matlab代码,重点关注控制器设计步骤、Lyapunov函数构造过程及MPC滚动优化实现细节,配合相关文献进行对比分析,以深化对非线性控制系统设计与仿真验证全过程的理解。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值