MapReduce引擎如何实现-创新互联

今天就跟大家聊聊有关MapReduce引擎如何实现，可能很多人都不太了解，为了让大家更加了解，小编给大家总结了以下内容，希望大家根据这篇文章可以有所收获。

　MapReduce引擎怎么实现

使用例子见下，只需要import一个名即可。

#!/usr/bin/env python

import mincemeat

data = ["Humpty Dumpty sat on a wall",

"Humpty Dumpty had a great fall",

"All the King's horses and all the King's men",

"Couldn't put Humpty together again",

]

def mapfn(k, v):

for w in v.split():

yield w, 1

def reducefn(k, vs):

MapReduce引擎怎么实现

result = 0

for v in vs:

result += v

return result

s = mincemeat.Server()

# The data source can be any dictionary-like object

s.datasource = dict(enumerate(data))

s.mapfn = mapfn

s.reducefn = reducefn

results = s.run_server(password="changeme")

print results

然后将mincemeat.py 和example.py 放在同一个目录下，执行example.py

python example.py

这时程序会挂起一个daemon

然后另开一终端运行：

python mincemeat.py -p changeme localhost

就会看到刚才的daemon打印出了MapReduce结果并退出了。

{‘a’: 2, ‘on’: 1, ‘great’: 1, ‘Humpty’: 3, ‘again’: 1, ‘wall’: 1, ‘Dumpty’: 2, ‘men’: 1, ‘had’: 1, ‘all’: 1, ‘together’: 1, “King’s”: 2, ‘horses’: 1, ‘All’: 1, “Couldn’t”: 1, ‘fall’: 1, ‘and’: 1, ‘the’: 2, ‘put’: 1, ’sat’: 1}

看完上述内容，你们对MapReduce引擎如何实现有进一步的了解吗？如果还想了解更多知识或者相关内容，请关注创新互联行业资讯频道，感谢大家的支持。