รายละเอียดซอฟแวร์:
มันเป็นพื้นห้องสมุดหลามสำหรับ MapReduce เขียนใน Cython
คุณสมบัติ .
- อินเตอร์เฟซที่คล้ายกันเป็น Hadoop API (รูปแบบการออกแบบอินเตอร์เฟซที่ใช้งานได้ระหว่างหลาม / Java)
- ความเข้ากันได้กับดัมโบทั่วไปเพื่อให้ผู้ใช้สามารถสลับไปมา
- ใช้สอยในกลุ่ม Hadoop โดยไม่ต้องหลามหรือการเข้าถึงผู้ดูแลระบบ
- การแปลงอย่างรวดเร็วและการประมวลผล
- ที่พักขนาดเล็กและเอกสารที่ดี
- มีความโปร่งใสกับสิ่งที่เกิดขึ้น
- โปรแกรมจัดการกับของดังนั้นซับซ้อน ctypes และนามสกุล
- รหัสที่เขียนขึ้นสำหรับความสามารถในการตัด
- ง่ายเข้าถึง HDFS (เช่นการอ่านการเขียนคำสั่ง ls)
- การสนับสนุน (และไม่ซ้ำ) ระบบนิเวศ Hadoop มากขึ้น (เช่น Oozie, whirr)
- งานอัตโนมัติ parallelization 'อัตโนมัติ oozie' ที่มีอยู่ในโครงการการไหล hadoopy (การบำรุงรักษาจากสาขา)
- การดำเนินงานของท้องถิ่น MapReduce แปรด้วย launch_local
- อ่าน / เขียนไฟล์ลำดับของ TypedBytes โดยตรงกับ HDFS จากหลาม (readtb, writetb)
- ช่วยให้การพิมพ์ที่ stdout และ stderr ในงาน Hadoop โดยไม่ก่อให้เกิดปัญหา (ใช้เทคนิค 'ท่อกระโดด' ทั้งที่มีอยู่ใน stderr ของงาน)
- การทำงานในกลุ่มโดยไม่ต้องติดตั้งใด ๆ เพิ่มเติม, Python หรือห้องสมุดหลาม (ใช้ Pyinstaller ที่รวมอยู่ในแหล่งต้นไม้นี้)
- การทำงานบน OS X
- เส้นทางที่สำคัญอยู่ใน Cython
- ง่ายเข้าถึง HDFS (readtb และคำสั่ง ls) ภายในหลามแม้ภายในงานทำงาน
- อินเตอร์เฟซที่ทดสอบหน่วย
- ใช้รายงานสถานะและเคาน์เตอร์ (และงบพิมพ์! ไม่จำเป็นต้องต้องกลัวของพวกเขาใน Hadoopy)
- รองรับรูปแบบการออกแบบในหลินและหนังสือย้อม
- การสนับสนุน Typedbytes (เร็วมาก)
- การสนับสนุน Oozie
ต้องการ
- Cython 0.13 หรือสูงกว่า
ความคิดเห็นที่ไม่พบ