论文题目：（DRPS 针对于散布式呆板练习的高效磁盘驻留参数办事器） 期刊： 作家：Zhen SONG, Yu GU, Zhigang WANG, Ge YU 宣布时光：01 Dec 2021 DOI： 微信链接： 导读 参数办事器算作开始进的散布式大领域迭代呆板练习架构一经被学者精深争论。然而，现存的基于参数办事器架构的系统常常以内存驻留的办法完结。因为内存空间的限制，一些呆板练习开垦人员很难正在他们的小集群中锻炼大领域的呆板练习义务。其余，租赁大领域云办事器对付一些资金有限的争论团队或小公司是弗成行的。正在本文，咱们提出了一个名为DRPS的磁盘驻留参数办事器系统，该系统经过将高维模子保存到磁盘中来削减硬件须要。为了进一步选拔DRPS的效用，咱们建立了高效的索引以及一个全新的多目的参数划分算法。最终，咱们提出一个精巧的处事机自主挑选的并行算计模子WSP来完结正在参数版本没有统一以及里程施行没有统一二者之间的衡量。 文章精要 概要 Parameter server (PS) as the state-of-the-art distributed framework for large-scale iterative machine learning tasks has been extensively studied. However, existing PS-based systems often depend on memory implementations. With memory constraints, machine learning (ML) developers cannot train large-scale ML models in their rather small local clusters. Moreover, renting large-scale cloud servers is always economically infeasible for research teams and small companies. In this paper, we propose a disk-resident parameter server system named DRPS, which reduces the hardware requirement of large-scale machine learning tasks by storing high dimensional models on disk. To further improve the performance of DRPS, we build an efficient index structure for parameters to reduce the disk I/O cost. Based on this index structure, we propose a novel multi-objective partitioning algorithm for the parameters. Finally, a flexible workerselection parallel model of computation (WSP) is proposed to strike a right balance between the problem of inconsistent parameter versions (staleness) and that of inconsistent execution progresses (straggler). Extensive experiments on many typical machine learning applications with real and synthetic datasets validate the effectiveness of DRPS. 相干实质引荐： Frontiers of Computer Science Frontiers of Computer Science （FCS）是由教训部主管、低等教训出版社以及北京航空航天大学独特主办、SpringerNature 公司海内发行的英文学术期刊。本刊于 2007 年创刊，双月刊，寰球发行。主要刊登算计机迷信范畴拥有改革性的综述论文、争论论文等。本刊主编为周志华教授，独特主编为熊璋教授。编委会及青年 AE 团队由海内外有名学者及优厚青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 以及中国迷信引文数据库（CSCD）当中库等收录，为 CCF 引荐期刊；两次入选 中国科技期刊国际作用力选拔讨论 ；入选 第4届中国国际化精品科技期刊 ；入选 中国科技期刊卓绝步履讨论项目 。 《前沿》系列英文学术期刊 由教训部主管、低等教训出版社主办的《前沿》（Frontiers）系列英文学术期刊，于2006年正式创刊，以收集版以及印刷版向寰球发行。系列期刊席卷根底迷信、生命迷信、工程本领以及人文社会迷信四个主旨，是我国揭开学科最精深的英文学术期刊群，个中13种被SCI收录，其他也被A HCI、Ei、MEDLINE或相映学科国际权威检索系统收录，拥有特定的国际学术作用力。系列期刊选择正在线优先出版办法，保险文章以最加紧度宣布。 中国粹术前沿期刊网 稀奇证实：本文转载仅仅是出于传播信息的须要，并没有意味着代表本网站概念或阐明其实质的可靠性；如其他媒体、网站或集体从本网站转载利用，须保全本网站讲授的“起因”，并自大版权等公法负担；作家假设没有指望被转载大概关连转载稿费等事宜，请与咱们挂钩。
