ablog

不器用で落着きのない技術者のメモ

2017-01-01から1年間の記事一覧

Oracle Database から MySQL(Aurora MySQL互換含む) に移行する際に留意すべきこと

パラメータ SQL_MODE ルーク!MySQLではkamipo TRADITIONALを使え! | おそらくはそれさえも平凡な日々 MySQL で NOT NULL 制約のある列に複数行インサートするとその型のデフォルト値が入る - ablog TX_ISOLATION トランザクション分離レベルは Oracle のデ…

AWRレポートを CSV に変換する手順

AWRレポートを CSV に変換する手順。CSV を EXCEL のピボットグラフなどを使って分析すると便利です。 Python スクリプトを入手する。 $ git clone https://github.com/yasushiyy/awr2csv.git AWRレポートの存在するディレクトリに移動する。 $ cd awrrep AW…

Oracle Database から Aurora MySQL互換 に DMS でデータをロードする

Oracle Database から Aurora with MySQL Compatibility にテーブルのデータを AWS Database Migration Service (DMS) でフルロードしてみたメモ。 ロード後のソースDBとターゲットDBのデータ比較 ソースDB(Oracle Database) SQL> select * from test_time…

sqlplus から Oracle Database に接続すると ORA-21561 で失敗する

事象 sqlplus から Oracle Database に接続すると ORA-21561 で失敗する。 % sqlplus awsuser/******@******.******.ap-northeast-1.rds.amazonaws.com:1521/ORCL SQL*Plus: Release 12.1.0.2.0 Production on Mon Sep 18 22:37:57 2017 Copyright (c) 1982,…

Mac OS X に Oracle Instant Client をインストールする

ダウンロード Instant Client for macOS (Intel x86) から以下をダウンロードする。 instantclient-basic-macos.x64-12.1.0.2.0.zip instantclient-sqlplus-macos.x64-12.1.0.2.0.zip インストール 解凍する % unzip instantclient-basic-macos.x64-12.1.0.2…

AWS Schema Conversion Tool をインストールする

AWS

macOS Sierra に AWS Schema Conversion Tool (SCT) をインストールしたメモ。 ダウンロード SCT AWS Schema Conversion Tool で Mac OS X のダウンロードをクリックして、aws-schema-conversion-tool-1.0.latest.zip をダウンロードする。 JDBC Driver for …

Safari Books Online に契約した

技術書(洋書)を読めるサービス Safari Books Online に年間契約($399)した。 以前は会社契約してたけど、転職して使えなくなったので個人契約してもペイすると考え入ることにした。 Safari にある本を全文検索することもできて、とても便利です。

Mac で右クリックで新規ファイル作成する by New File Creation

Mac

New File Creation で Mac で右クリック(2本指でタップ)で新規ファイル作成する方法をメモ。 インストール New File Creation を App Store でインストールする 設定 [システム環境設定]-[機能拡張]-[Finder]で[New File Creation Extension]にチェックを…

MySQL のリストパーティションにDEFAULTキーワードはない

MySQL のリストパーティションにDEFAULTキーワードはない模様。 list_partitionslist_partitions句を使用すると、columnのリテラル値のリストで表をパーティション化できます。リスト・パーティション化は、個々の行が固有のパーティションにマップする方法…

MySQL で NOT NULL 制約のある列に複数行インサートするとその型のデフォルト値が入る

MySQL で SQL モードが STRICT モードでない場合、NOT NULL 制約のある列に複数行インサートするとその型のデフォルト値(0とか空文字)が入る(1行インサートだとエラーで入らない)。 検証結果 Amazon Aurora with MySQL Compatibility に接続する $ mysql…

Oracle Database の PL/SQL を MySQL にどう移行するか

AWS

はじめに Oracle Database の PL/SQL の MySQL への移行方法を説明します(MySQL 5.0 からストアドプロシージャに対応している)。 AWS Schema Conversion Tool (SCT) という GUI デスクトップアプリケーション(Windwos/Mac OS X/Linux版)をインストールし…

Amazon RDS for Oracle で起動しているプロセスを確認する

AWS

Amazon RDS for Oracle で起動しているプロセスは V$PROCESS で確認できる。*1 $ export _JAVA_OPTIONS="-Duser.language=en -Duser.country=US" $ sql awsuser@orcl.******.ap-northeast-1.rds.amazonaws.com:1521/orcl Picked up _JAVA_OPTIONS: -Duser.la…

Big Data Architecture Pattern (Polyglot/Lambda/Kappa)

仕事の都合で残念ながら聞けなかったが、db tech showcase 2017 での諸橋さんのセッション「polyglot data acces」の内容を polyglot data access - JPOUG in 15 minutes at db tech showcase Tokyo 2017 - wmo6hash::blog で拝見した。とても勉強になる内容…

EMR で Presto からクエリを投げてみる

AWS

EMR クラスターを作成する Presto を使えるクラスターを作成する Hive カタログを作成する $ hive hive> CREATE DATABASE IF NOT EXISTS db01; hive> CREATE EXTERNAL TABLE … hive> クエリ実行 Presto からクエリを投げてみる $ presto-cli presto> use hiv…

pgbench で RDS PostgreSQL のマスターに負荷をかけてリードレプリカのレプリケーションラグを計測する

AWS

pgbench とは pgbenchとはpgbenchはPostgreSQLに同梱されているシンプルなベンチマークツールです。最初のバージョンは筆者により作成され、日本のPostgreSQLメーリングリストで1999年に公開されました。その後pgbenchはcontribという付属追加プログラムとし…

pgbench を使ってみる

pgbench をインストールする $ sudo yum -y install postgresql $ sudo yum -y install postgresql-contrib 参考 PostgreSQL: Documentation: 9.6: pgbench

Amazon Redshift announces Federated Authentication with Single Sign-On

AWS

Posted On: Aug 11, 2017You can now use the new Amazon Redshift database authentication to simplify the credential management of database users. You can configure Amazon Redshift to automatically generate temporary database credentials base…

Amzon QuickSight のユーザーを削除する方法

AWS

AWS のマネージドなBIサービス Amazon QuickSight のユーザーを作成後削除する方法。 ルートユーザーか最初に QuickSight のアカウントを作成した IAM ユーザー(管理者ユーザー)で QuickSight にログインする。 QuickSight の画面右上の [Manage QuickSigh…

SQL Workbench/J でユーザーを作成してログインすると"Invalid operation: password authentication failed for user" と怒られる

AWS

事象 SQL Workbench/J で以下のようにユーザー作成後、 CREATE USER guest PASSWORD '***********'; 作成したユーザーでログインしようとすると、 [Amazon](500310) Invalid operation: password authentication failed for user "guest"; と怒られる。 原因…

Linux に psql をインストールする

psql(PostgreSQL のクライアントツール) は postgresql パッケージに含まれるので、yum で postgresql パッケージをインストールする。 インストール yum でインストールする。 $ sudo yum install postgresql ... Is this ok [y/d/N]: y Downloading packag…

psql で出力結果をファイルに出力する

書式 # \o <ファイル名> # <SQLを実行する> # \q 例 # \o test.txt # select * from test'; # \q $ ls -1 test.txt 参考 PostgreSQL/MySQLで、クエリの結果をファイルに出力する - 極北データモデリング https://www.postgresql.jp/document/9.2/html/app-psql.html</sqlを実行する>

Amazon Redshift からテーブル作成DDLを自動生成する

Amazon Redshift 自体にはクラスターに存在するテーブルなどのオブジェクトのDDLを生成する機能はないが、以下のスクリプトやツールで生成することができる。 つまり、Oracle Database の DataPump の CONTENT=METADATA_ONLY や exp の rows=n ような機能は…

SQL Workbench/J のコンソールモードを使う

環境 macOS Sierra インストール SQL Workbench/J - Downloads で [Download generic package for all systems] をダウンロードする。*1 Workbench-Build122.zip を解凍して任意のフォルダに置く。 設定 GUIで起動する。 $ cd Workbench-Build122 $ sh ./sql…

macOS Sierra でアプリケーションを起動しようとすると "開発元が未確認のため開けません"と怒られる

Mac

事象 ダウンロードしたアプリケーションを開こうとすると"開発元が未確認のため開けません"と怒られる。 解決策 [Control]キーを押しながら対象のアプリケーションをクリックする ショートカットメニューから [開く] を選択する 参考 macOS Sierra: 開発元が…

SQL Workbench/J で Amazon Redshift に接続する

SQL Workbench/J をインストールして Amazon Redshift に接続するまでの手順をメモ。SQL Workbench/J は Java で書かれた GUI および CUI から SQL を実行できるツールで、様々な RDBMS に使える。 SQL Workbench/J is a free, DBMS-independent, cross-plat…

RDS PostgreSQL のリードレプリカ

AWS

PostgreSQL 9.2の同期レプリケーションを利用する際の勘所 (2/3):CodeZine(コードジン) AWS サービス制限 - アマゾン ウェブ サービス MariaDB、MySQL、および PostgreSQL DB インスタンスのリードレプリカの使用 - Amazon Relational Database Service

SAP HANA で SQL 実行時に実行されるスレッド数について

HANA には1つの SQL に対して1スレッド使われる SQL Executor とSQL を並列*1タスクに分解して処理する Job Worker スレッドがあり、max_concurrency は1のSQL あたりの並列実行スレッド数を制御するパラメータ。max_concurrency_hint は直近のワークロード…

SAP HANA Studio に表示される Database Resident Memory と HANA Used Memory の関係

一言で言うと、Database Resident Memory は HANA のプロセスが使っている物理メモリサイズで、HANA Used Memory は HANA から見て論理的に使っているメモリサイズ。つまり、Database Resident Memory - HANA Used Memory の差分はOSから見ると物理メモリを…

docker stats の CPU%

docker stats コマンドの CPU% は top 的な感じでコンテナ内でマルチプロセス、マルチスレッドで実行されると論理CPUあたりの使用率の合計になり、100% 以上になる。ただそれだけのことだけど、意外にドキュメントに書かれてないぽい(性能分析ツールあるある…

macOS の標準パフォーマンス分析ツール

Mac

macOS の標準*1パフォーマンス分析ツールを Brendan Gregg のスライドでざっと調べてみた。 Analyzing OS X Systems Performance with the USE Method from Brendan Gregg 環境 macOS Sierra ツール Activity Monitor.app [ウインドウ]-[アクティビティモニ…