ablog

不器用で落着きのない技術者のメモ

2017-05-01から1ヶ月間の記事一覧

Amazon DynamoDB に負荷をかけてみる

AWS

YCSBでDynamoDBを殴ってみた | DevelopersIO を参考に Amazon DynamoDB に負荷をかけてみた。 セットアップ DynamoDBのセットアップ テーブルを作成する テーブル名: usertable プライマリパーティションキー:firstname(文字列) JDKのインストール $ sudo…

Amazon Simple Queue Service (SQS) を使ってみる

AWS

EC2 から AWS CLI で Simple Queue Service を使ってみる。 Access key ID、Secret access key、デフォルトリージョンを設定する。 $ aws configure キューを作成する $ aws sqs create-queue --queue-name TestQueue { "QueueUrl": "https://queue.amazonaw…

シンプルでシステマチックな Redshift 性能分析

実行計画とステップごとの所要時間 [Query Execution Details] Plan Actual リソース使用状況 マネジメントコンソールで見れる ビュー SVL_QUERY_METRICS_SUMMARY SVL_QUERY_METRICS SVL_QUERY_QUEUE_INFO SVL_QUERY_SUMMARY SVL_QUERY_REPORT SVL_COMPILE S…

MacBook Pro 13インチ用にマグネット式プライバシーフィルムを購入

Mac

MacBook Pro (Retina, 13-inch, Early 2015) 用にマグネット式プライバシーフィルム*1を購入。 マグネット式で簡単に取り外しできて良い感じ。 UNIQ MacGuard マグネット式プライバシーフィルム MacbookPro/Air 13インチ用 MBG13PF出版社/メーカー: TIMELY×U…

Amazon Redshift と PostgreSQL の VACUUM FULL の動作の違い

AWS

Amazon Redshift と PostgreSQL の VACUUM FULL の動作は似ているが少し違う。どちらも空き領域を再利用するが、Redshift は「行を再ソート」する点が違う。これはそもそも、Redshift と PostgreSQL のデータ構造が異なるためで、PostgreSQL は行指向データ…

S3で jQuery を使って SSI 的なことをする

AWS

S3 で Server Side Include (SSI)的なことを jQuery でやってみた(Client Side Include)。 結果 作成したバケットの [プロパティ]-[Static website hosting] を選択し、 [エンドポイント]の URL にブラウザでアクセスしてみると無事成功 手順 S3 にバケ…

Redshift のクエリ分析参考資料

AWS

クエリアラートの確認 - Amazon Redshift クエリプランの分析 - Amazon Redshift クエリ実行の分析 - Amazon Redshift クエリの概要の分析 - Amazon Redshift クエリパフォーマンスの向上 - Amazon Redshift クエリプラン - Amazon Redshift システムビュー …

Latency Is Everywhere And It Costs You Sales - How To Crush It

メモ Latency is Everywhere and it Costs You Sales - How to Crush it - High Scalability -

気になる論文3本

DB

Amazon Aurora Amazon Aurora: Design Considerations for High Throughput Cloud-Native Relational Databases - https://t.co/dKyAQWdcYP pic.twitter.com/eNCPHERGYr— Jeff Barr (@jeffbarr) 2017年5月15日 Spanner https://t.co/iCCtzXdtnh Spanner: Bec…

sched: Interrupt Aware Scheduler

Anybody tested Oracle's interrupt aware CPU scheduler (https://t.co/vNb9mQ9M55). In addition Linux 4.12 brings 2 I/O schedulers BFQ & Kyber.— Stefan Koehler (@OracleSK) 2017年5月15日Linux のプロセススケジューラで割込み負荷の高いCPU以外にプ…

MySQLのソースコードを入手する

MySQL :: Download MySQL Community Server で、 以下の通り選択し Select Operating System: Source Code Select OS Version: Generic Linux (Architecture Independent) "Compressed TAR Archive" をダウンロード 補足 最新バージョン以外は以下からダウン…

MySQL をソースコードからビルドする

準備 sudo yum install git sudo yum install cmake sudo yum install gcc sudo yum install gcc-c++ sudo yum install ncurses-devel mysql-build のインストール id:kamipo さん作の mysql-build は複数のバージョンの MySQL をコンパイル&インストールす…

zsh で /usr/local/bin にパスが通ってないと思ったら

Mac

Terminal.app から iTerm2 に乗り換えて、zsh で /usr/local/bin にパスが通ってないと思ったら、違う zsh のパスを指定していた。 Terminal.app:/usr/local/bin/sh iTerm2:/bin/zsh 参考 Homebrewを使ったzsh導入時に/usr/local/bin/zshを/etc/shellsに追加…

真のCPU使用率 by Brendan Gregg@Netflix

自分の「シンプルでシステマチックな〇〇性能分析」のルーツな面々のうちの2人*1 Brendan Gregg@Netflix と Tanel Poder@Gluent が素敵な絡みをしていたのでメモ。@brendangregg Could be useful: I once documented my understanding of the typical CPU co…

Xen の仮想化モード PV or HVM について

Xen

Xen 3.0 や 4.0.1 は HVM でも PV のコードパスを使ってくれたりするから、マトリックスで HVM でも Network and Disk などが PV になってるのか。性能面で優れた Mode は PV -> HVM と来たけど、Xen 4.4 ではまた PV に。B.Gregg 御大が整理してもここまで…

Presto についてメモ

Presto is an open-source software project to develop a database query engine using the standard Structured Query Language (SQL).Facebook commenced development efforts on Presto in 2012, and announced its release as open source for Apache H…

Python で CSV の列の値の型を類推する

準備 messytables をインストール $ pip install messytables テストデータ(test.csv)作成 aze,1,a,1 aze,2,b,2 aze,3,c,3 aze,4,d,4 aze,5,e,5 aze,6,f,6 aze,7,g,7 aze,8,h,8a aze,9,i,9 型類推スクリプト(csv_col_type_guesser.py)作成 #!/usr/bin/env py…

Mac で PDF からコピーすると濁点/半濁点が一文字として表現される

事象 Mac で PDF の文章をプレビューで開いて chrome にコピー&ペーストすると、濁点だけで1文字になる。 例えば、「グ」のように「ク」と濁点の2文字になる。 原因 Unicode には「文字+濁点」を1文字として表現する Normalization Form C(NFC) と、濁点だ…

AWS の IAM(Identity and Access Management) についてメモ

AWS

※以下は個人的なメモです。最新の正確な情報はAWSの公式ドキュメントを参照してください。 AWS Black Belt Online Seminar AWS Identity and Access Management (AWS IAM) from Amazon Web Services Japan IAM 認証・認可の仕組み 認証 AWS アカウント (root…

AWS の VPC(Virtual Private Network) についてメモ

AWS

※以下は個人的なメモです。最新の正確な情報はAWSの公式ドキュメントを参照してください。 VPC とは Virtual Private Cloud (VPC) は、AWS アカウント専用の仮想ネットワーク。以下のコンポンーネントがある。 AWS Black Belt Online Seminar 2017 Amazon VP…