spark

pyspark-dataframeメモ
401 views

PySpark DataFrameメモ

SparkSession#cresateDataFrameを使用する 作成元のデータは RDD list pandas.DataFrame のいずれか pyspark.sql module — PySpark 2.4.5 documenta...

aws-glue-some
155 views

AWS Glue色々

テーブルの分類の変更方法 テーブルページで編集したいテーブルを選択したあと、 テーブルの編集ボタンを押す。 モーダルが出てくるので、 テーブルのプロパティ 項目の classification を json に変更する. ジョブの登録方法...

pyspark-on-aws-glue
118 views

PySpark on AWS Glue

AWS Glueでは、transformationctxというオプション引数を使用して、ジョブのブックマークを制御することができます。ジョブのブックマークは、生データの重複処理を防ぐための仕組みです。詳細については理解できていないが、一般的...