首页 股吧 正文

[钱龙黄金眼]Cloudera正在重建机器学习方法

2024-02-03 10:02:57 60
亿轩观市

? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?作者:Derrick Harris

翻译:岳辰? ?? ? 校正: 陈洁(转载请保存)

摘要:Cloudera现在正在进行一个名叫Oryx的开源项目,旨在将机器学习的办法代入Hadoop,而这个早些时候Apache Mahout做过相似的测验都以失利告终。

当Hadoop软件的卖方Cloudera在上一年收买一家总部在伦敦的公司Myrrix时,他们并没有大肆宣传。他们也没有将之后公司在机器学习技能方面的成果带入大众的视野里。而公司的技能以及她的创始人,Sean Owen,却很或许成为一笔十分可观的财物。

在公司里头衔为数据科学师的Owen,现在正致力于开发一个名叫Oryx的开源机器学习项目。(Oryx本意为一种非洲羚羊,而Cloudera另一款产品Impala本意也是一种非洲羚羊。)Oryx项目的方针是能协助Hadoop用户树立机器学习模型,这样用户就能经过运用这些模型实时查询并输出成果,比方过滤垃圾邮件或许向用户引荐有用的信息等。最好Oryx还能支撑边读数据边自我更新的模型。

Owen将这称之为Hadoop传统的探索性数据剖析与运算剖析之间的差异。他说:“一旦我能对咱们网站上面的欺诈问题进行建模,我就一定能做出什么来。咱们不只能在Hadoop进行大数据建模,还能够大规模运用这些模型。”

作为在Hadoop上树立机器学习模型的传统途径的Apache Mahout,被Owen称为“已走到走投无路”。它现在处在仅能进行批量处理的第一代MapReduce的瓶颈,这就需求用户进行许多的操作一同也需求适宜的作业体系。Owen说:“Myrrix其实便是我期望Mahout所成为的姿态。”他弥补道,“假如最初Mahout能做得很好的话,他们就不会在这寻求Myrrix了。其实Oryx中90%的代码都来自于Myrrix,剩余的才是由Cloudera完结的。”

一个既开源又简易的引荐体系,谁想试试?

与树立一整套机器学习算法库不同,Owen真实想做的只是四个核心问题:回归,分类,聚类以及协同挑选(也便是引荐体系)。Owen说上述四个问题中当下最抢手的当属终究一个协同挑选的问题,所以他与一些Cloudera的一些顾客一同在运用Oryx写引荐体系。事实上,80%的Oryx运用者都在企图树立引荐体系。

将Oryx变成一个树立引荐体系的标准化东西会使得这个项目变得十分抢手。虽然引荐体系关于一些抢手网站如Netflix以及Amazon等都已是粗茶淡饭,可是树立引荐体系标准化的开源东西短少的不幸。

虽然这不是一场比赛,可是其他的公司现在也在企图将引荐体系标准化。举例来说,云核算的新式公司Mortar Data现在正与15家其他具有尖端数据剖析师的公司联手树立标准化引荐体系。这个项目于上一年发动,它期望经过改进开源引荐体系的结构来带来更好的实用性。而其他一些公司如Expert Labs虽不计划将引荐体系开源化,但也企图经过人工智能API来建立主动引荐体系。

仍只是一个试验项目,还非产品

Owen以为,一切的Cloudera用户(以及大多数Hadoop用户)终究都会想要运用操作性强的机器学习体系,并不只仅限于体系给予引荐。而Oryx就能成为一款协助咱们完成这个希望的东西。不过他也说道:“现阶段,这仍仍是试验项目阶段。”

举个比如来说,现在Owen还在Apache Spark项目上花许多时刻,由于他想经过重写Oryx来使得Spark成为首要的处理结构而非MapReduce。“其实假如从机器学习的视点看,Spark肯定是更风趣,”他说道:“所以我甘愿把精力多放在Spark上。”

Owen 并不是一个人在战役。就像咱们方才说的,Spark正在成为下一代大数据运用的一个越来越热的的挑选。Cloudera和Hortonworks也都把Spark当作Hadoop未来的一个重要组成部分。Cloudera的首席履行官Tom Reilly将会在三月份和其他许多大数据公司的首席履行官,数据剖析师以及首席信息官们一同,在结构数据会议上讨论Hadoop渠道的未来(包含Spark在其间的效果), 以及机器学习在商业和社会学上的实践运用。

不过,虽然远景杰出,Owen并不以为Oryx能很快出现在Cloudera,Hadoop的出产线上。“顾客想要的是杰出的主张,服务以及训练,这都需求把Oryx变成一款软件,”他说,而现在:“咱们离着方针还很远。”

“就现在对大多数Hadoop的顾客而言,说拥抱数据科学还为时尚早,”他弥补道:“更不用说那些操作性强的即时机器学习办法了。”

英文原文请点击阅览原文

【今天引荐】

ZTalk@ 青龙老贼ID:ztalk由WeMedia自媒体联盟创始人青龙老贼运营,一个爱考虑懂履行的自媒体人,喜爱共享移动互联网趋势、产品、技能和自己,烟和咖啡是最好的伴侣,带给你一个异乎寻常的长腿欧巴!

简七读财ID:jane7ducai让理财简略起来
数据剖析, 数据发掘
收藏
分享
海报
60