Apache-pig-group-operator

Apache Pig-グループオペレーター

*GROUP* 演算子は、1つ以上の関係でデータをグループ化するために使用されます。 同じキーを持つデータを収集します。

構文

以下に、 group 演算子の構文を示します。

grunt> Group_data = GROUP Relation_name BY age;

例

以下に示すように、HDFSディレクトリ /pig_data/ に student_details.txt という名前のファイルがあると仮定します。

*student_details.txt*

001,Rajiv,Reddy,21,9848022337,Hyderabad
002,siddarth,Battacharya,22,9848022338,Kolkata
003,Rajesh,Khanna,22,9848022339,Delhi
004,Preethi,Agarwal,21,9848022330,Pune
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
006,Archana,Mishra,23,9848022335,Chennai
007,Komal,Nayak,24,9848022334,trivendram
008,Bharathi,Nambiayar,24,9848022333,Chennai

そして、以下に示すように、このファイルをリレーション名 student_details でApache Pigにロードしました。

grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
   as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);

次に、以下に示すように、関係のレコード/タプルを年齢別にグループ化します。

grunt> group_data = GROUP student_details by age;

検証

以下に示すように、 DUMP 演算子を使用してリレーション group_data を確認します。

grunt> Dump group_data;

出力

次に、以下に示すように、 group_data という名前の関係の内容を表示する出力を取得します。 ここで、結果のスキーマには2つの列があることがわかります-

• 1つは age で、これによりリレーションをグループ化しました。
• もう1つは bag で、タプルのグループ、それぞれの年齢の学生レコードが含まれています。

(21,{(4,Preethi,Agarwal,21,9848022330,Pune),(1,Rajiv,Reddy,21,9848022337,Hydera bad)})
(22,{(3,Rajesh,Khanna,22,9848022339,Delhi),(2,siddarth,Battacharya,22,984802233 8,Kolkata)})
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)})
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)})

以下に示すように、 describe コマンドを使用してデータをグループ化すると、テーブルのスキーマを確認できます。

grunt> Describe group_data;

group_data: {group: int,student_details: {(id: int,firstname: chararray,
               lastname: chararray,age: int,phone: chararray,city: chararray)}}

同様に、以下に示す illustrate コマンドを使用して、スキーマのサンプル図を取得できます。

$ Illustrate group_data;

それは次の出力を生成します-

-------------------------------------------------------------------------------------------------
|group_data|  group:int | student_details:bag{:tuple(id:int,firstname:chararray,lastname:chararray,age:int,phone:chararray,city:chararray)}|
-------------------------------------------------------------------------------------------------
|          |     21     | { 4, Preethi, Agarwal, 21, 9848022330, Pune), (1, Rajiv, Reddy, 21, 9848022337, Hyderabad)}|
|          |     2      | {(2,siddarth,Battacharya,22,9848022338,Kolkata),(003,Rajesh,Khanna,22,9848022339,Delhi)}|
-------------------------------------------------------------------------------------------------

複数の列によるグループ化

以下に示すように、年齢と都市によって関係をグループ化します。

grunt> group_multiple = GROUP student_details by (age, city);

以下に示すように、Dump演算子を使用して、 group_multiple という名前の関係の内容を確認できます。

grunt> Dump group_multiple;

((21,Pune),{(4,Preethi,Agarwal,21,9848022330,Pune)})
((21,Hyderabad),{(1,Rajiv,Reddy,21,9848022337,Hyderabad)})
((22,Delhi),{(3,Rajesh,Khanna,22,9848022339,Delhi)})
((22,Kolkata),{(2,siddarth,Battacharya,22,9848022338,Kolkata)})
((23,Chennai),{(6,Archana,Mishra,23,9848022335,Chennai)})
((23,Bhuwaneshwar),{(5,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar)})
((24,Chennai),{(8,Bharathi,Nambiayar,24,9848022333,Chennai)})
(24,trivendram),{(7,Komal,Nayak,24,9848022334,trivendram)})

すべてをグループ化

以下に示すように、すべての列でリレーションをグループ化できます。

grunt> group_all = GROUP student_details All;

次に、以下に示すように、関係 group_all の内容を確認します。

grunt> Dump group_all;

(all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334 ,trivendram),
(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336,Bhuw aneshwar),
(4,Preethi,Agarwal,21,9848022330,Pune),(3,Rajesh,Khanna,22,9848022339,Delhi),
(2,siddarth,Battacharya,22,9848022338,Kolkata),(1,Rajiv,Reddy,21,9848022337,Hyd erabad)})