ablog

不器用で落着きのない技術者のメモ

2021-01-01から1ヶ月間の記事一覧

AWS Glue で Amazon DynamoDB に読み書きする

AWS

AWS Glue の Spark ジョブで Amazon DynamoDB のテーブルから別のテーブルにデータをコピーしてみた。 手順 DynamoDB のテーブルを作成する src_table プライマリキー: key 3件ほどItemを追加する dst_table プライマリキー: key テーブルは空のままにしてお…

S3 にある CSV を DynamoDB にインポートする Python スクリプト

AWS

ソースコード ddb_csv_importer.sh #!/usr/bin/env bash export bucket=aws-s3-bucket export key=test/test_table.csv export table=testTable python ./ddb_csv_importer.py ddb_csv_importer.py #!/usr/bin/env python3 # -*- coding: utf-8 -*- import b…

DynamoDB に BatchWriteItem で書こうとすると "when calling the BatchWriteItem operation: The provided key element does not match the schema" と怒られる。

AWS

事象 DynamoDB に BatchWriteItem で書こうとすると "when calling the BatchWriteItem operation: The provided key element does not match the schema" と怒られる。 Error executing batch_writer Traceback (most recent call last): File "./ddb_csv_i…

Session Manager plugin で Private Subnet の EC2 に踏み台なしで接続する

AWS

Session Manager plugin で Private Subnet の EC2 に踏み台なしで接続する。環境は macOS。 前提 IAM ポリシー"AmazonSSMManagedInstanceCore"を付与した IAM ロールが EC2 にアタッチされていること。 以下の VPC エンドポイントが作成されていること。 co…

AWS Labs の aws-shell を使ってみる

AWS

インストール $ pip install aws-shell 使ってみる $ aws-shell aws> 参考 AWS CLI のコマンド実行を補助する「aws-shell」の紹介 - サーバーワークスエンジニアブログ GitHub - awslabs/aws-shell: An integrated shell for working with the AWS CLI.

GitHub で Web サイトを公開する

ブラウザで GitHub にログインする。 "GitHubアカウント名.github.io(例: yoheia.github.io)" という名前のリポジトリを作成する。 gh-pages, develop という名前のブランチを作成する。 ディレクトリを作成する $ mkdir yoheia.github.io $ cd yoheia.githu…

GitHub Pages で Jekyll を使わずに静的コンテンツを公開する

GitHub Pages は、デフォルトでは Jekyll を使ってサイトを構築します。 Jekyll 以外の静的サイトジェネレータを使いたい場合、公開元のルートに .nojekyll という空のファイルを作成し、お使いの静的サイトジェネレータの指示に従ってローカルでサイトをビ…

2段階認証設定後に GitHub に push すると "fatal: Authentication failed for" と怒られる

事象 GitHub で2段階認証設定後に push すると "fatal: Authentication failed for" と怒られる。 $ git push -u origin master Username for 'https://github.com': yoheia [core] Password for 'https://yoheia@github.com': remote: Invalid username or …

Hugo の Academic Template で Portfolio サイトを作って GitHub Pages で公開する

Hugo の Academic Template で Portfolio サイトを作って GitHub Pages で公開してみた。 https://yoheia.github.io/ インストール Go と Hugo をインストール $ brew install go $ brew install hugo Hugo の Academic Template をダウンロード GitHub - wo…