株式会社KDOTの開発情報ポータル

pandas-memo
63 views

pandasメモ

csvからの読み込み headerなし pandasでcsv/tsvファイル読み込み(readcsv, readtable) note.nkmk.me sqliteからの読み込み データの取得 column名(header)の取得 書き込み...

pyspark-dataframeメモ
401 views

PySpark DataFrameメモ

SparkSession#cresateDataFrameを使用する 作成元のデータは RDD list pandas.DataFrame のいずれか pyspark.sql module — PySpark 2.4.5 documenta...

aws-glue-some
155 views

AWS Glue色々

テーブルの分類の変更方法 テーブルページで編集したいテーブルを選択したあと、 テーブルの編集ボタンを押す。 モーダルが出てくるので、 テーブルのプロパティ 項目の classification を json に変更する. ジョブの登録方法...

vpc-endpoint
19 views

VPCエンドポイント

VPCエンドポイントとは、VPCと他のサービス間の通信を可能にするVPCコンポーネントで、その実態は仮想デバイスです。VPCエンドポイントをVPCに作成することで、VPC内のインスタンスとVPC外のサービスとで通信ができるようになります。(...

pyspark-on-aws-glue
118 views

PySpark on AWS Glue

AWS Glueでは、transformationctxというオプション引数を使用して、ジョブのブックマークを制御することができます。ジョブのブックマークは、生データの重複処理を防ぐための仕組みです。詳細については理解できていないが、一般的...

react-digraph使い方
100 views

react digraph使い方

公式 GraphViewコンポーネント Props GitHub - uber/react-digraph: A library for creating directed graph editors nodeKey: 内部的にD3の操作に...

非同期概略
18 views

非同期概略

プロセス 動いているプログラムの単位だと考えればいい OSからCPU、メモリなどのリソースを割り当てられる カーネルへのシステムコールによって生成される 借り受けたメモリはプロセスごとにOSによって分割されているため他のプロセスとデータ共有...

dynamodb
334 views

DynamoDB色々

RDBとの相違点 RDBはクエリが柔軟なのでスキーマ定義時にクエリのことを考えなくていい Dyanamoでは最も重要なクエリのみ高速化するためのスキーマ設計が必要 設計手順 必要なクエリ=ビジネス要件・ユースケースが判明するまでスキーマを設...

python-typehint
1,220 views

Python typehintテクニック

Pythonではクラス定義の中で、そのクラス自身の名前を参照することができません。そのため、型定義も同じ問題に直面します。 クラスのメソッドで、そのメソッドが返す値の型をDogクラス自身にしたい場合、上記のように書くとエラーになります。 解...

amplify-usage
151 views

Amplify使い方色々

モバイルアプリケーションを簡単に構築する仕組み バックエンドの構築を自動化できる フロントエンドとの連携も自動化 内部はcloud formation AWS Amplifyとはなんなのか3行で表現する - Qiita カテゴリー 認証やバ...

goのテストフレームワークtestifyの使い方
778 views

GOのテストフレームワークtestifyの使い方

EqualValues 中身の値が同じことを検証できる named typeでそのままで比較ができずに、キャストが必要なときに便利 否定版のNotEqualValuesもある 構造化されたテスト testing.T.Run テストをネストさ...

go-tips
27 views

Go tips

jsonやdbスキーマを扱うときにnullableな値を扱いたい しかしgoでは値型に対してデフォルト値が存在して何も指定しない場合はそれが用いられてしまう i.e. stringのデフォは"" null的な値を扱いたいときにはpointe...

amchartsとjestの併用
11 views

amchartsとjestの併用

jestでamchartsの関数を使用したテストを書こうとするとなんか知らんがバグる probably not plain javascriptみたいなことを言ってくるが原因はよくわからん これに従うと治る これだけだとなんかreact自身...