ablog

不器用で落着きのない技術者のメモ

ティ の検索結果:

sysbench で MySQL にカスタムクエリを同時多重実行して一時ファイルを大量に使ってみる

…(一時テーブル)」 と「tmp file(テンポラリファイル)」の違いと「Copying to tmp table」と「copy to tmp table」の違い – ソーシャルゲーム基盤 運用側から見渡す解像度 Doc ID: 2268533.1 MySQLトラブルシューティング作者: Sveta Smirnova,豊福剛出版社/メーカー: オライリージャパン発売日: 2012/10/13メディア: 大型本購入: 1人 クリック: 3回この商品を含むブログ (4件) を見る

「コスパのいいシステムの作り方」の紹介

…の高いミッションクリティカルプロジェクトを成功させられていて、こういうベンダーに騙されない目利きができる優秀なPMはユーザー企業の宝だと思っていました。 南さんのようなユーザー企業でリスペクトしている方々に共通しているのは会社のお財布は自分のお財布という感覚を持ち、各分野のスペシャリストと個人的なコネクションを持たれ、ドライな技術からウエットな組織まで筋の通った骨太な考え方を持たれて、馬力があって肝が座られてるところです。ちょっとマネできないなと感じます。 こういうスキルはな…

Amazon ECS を使ってみる

AWS

…ットを選択 セキュリティグループ: 既存のセキュリティグループを選択 コンテナインスタンスの IAM ロール: ecsInstanceRole サービス作成 [Elastic Container Service]-[クラスター]で httpd-cluster をクリック サービス名: httpd-service タスクの数:4 セキュリティグループの設定 ssh(22)、http(80) でのアクセスを許可する テスト ブラウザでアクセスし"It works!"と表示されるこ…

コンテナ について

…す。 また、セキュリティの面においても「ハニーポット(蜜の壺/おとりサーバ)」と呼ぶクラッカー対策にchrootが利用されます。現在(2015年)では、chrootを使ったハニーポットに代わる新しいセキュリティ対策の仕組みがいろいろと研究されていますが、基本的にはchrootの考え方を踏襲しており、2015年現在でもフリーOSなどで利用されています。 chrootの応用例。chrootのファイルシステムの分離機能はソフトウェアの開発だけでなく、さまざまな分野で応用されている …

MySQL の InnoDB テーブルの断片化状況を確認する

…ィスク領域をオペレーティングシステムによる使用のために再利用できます。 InnoDB テーブル内の FULLTEXT インデックスの一部であるカラムに対して大量の挿入、更新、または削除操作を行なったあと。最初に、構成オプション innodb_optimize_fulltext_only=1 を設定します。インデックスの保守期間を妥当な時間に維持するために、検索インデックスで更新するワード数を指定する innodb_ft_num_word_optimize オプションを設定し、…

「Oracleの基本 〜データベース入門から設計/運用の初歩まで」の紹介

…UG などのコミュニティ活動で以前から交流があり、コーソル社の社内勉強会にも何度かお邪魔したこともあります。Oracle 関連のイベントにお手伝いに来られた新卒ホヤホヤの方と挨拶したと思ったら数年後には第一線の現場で一緒に仕事させていただいたりしていましたが、ITの知識がなかった新卒や中途入社の方が数年後には一流のDBエンジニアとして第一線の現場やイベントの発表などで活躍されていて、データベース*1を勉強するには最もよい会社の一つだと思っていました。そのコーソル社のエンジニア…

macOS上でLinuxアプリケーションをそのまま動作させるアプリ ケーション Noah を使ってみた

…) = 4 0 アクティビティモニタで見てみる 起動時のシステムコールトレースをとってみる % sudo dtruss -deflo sudo -u yohei-a noah 2>dtruss.log % grep -C 5 noah dtruss.log 6323/0x112ba: 6904 3 2 read_nocancel(0x6, "##\n# Group Database\n# \n# Note that this file is consulted directl…

MySQL Connector/J(JDBC Driver) で接続時に任意の collation_connection をセットする

…ログラムは、オペレーティングシステム設定 (たとえば、Unix システムでは LANG や LC_ALL ローカル環境変数の値、Windows システムではコードページ設定) に基づいて、使用する文字セットを自動検出できます。ロケールが OS から利用できるシステムの場合、クライアントはコンパイル時のデフォルトを使用するのではなく、このロケールを使用してデフォルトの文字セットを設定します。たとえば、LANG を ru_RU.KOI8-R に設定すると、koi8r 文字セットが…

MySQL でオプティマイザトレースを取得する

MySQL でオプティマイザトレース(Oracle Database でいう 10053 トレース)を取得する方法。 mysql> SET optimizer_trace="enabled=on"; mysql> SET optimizer_trace_max_mem_size = 1048576; mysql> select 1; mysql> select * from information_schema.optimizer_trace\G **************…

Aurora MySQL互換に LOAD コマンドで CSV ファイルをロードしようとすると "ERROR 1148 (42000)" で失敗する

…on 原因 セキュリティ上の理由でデフォルトで LOAD DATA ステートメントが無効なため。 解決策 --local-infile オプションをつけて mysql クライアントで接続してロードする。 % mysql --local-infile -h aurora01.cluster-******.ap-northeast-1.rds.amazonaws.com -u awsuser -p mysql LOAD DATA LOCAL INFILE 'test.csv' I…

macOS Sierra でスワップを無効化する

Mac

…のメニューの [ユーティリティ]-[ターミナル] を選択する SIP を無効化する -bash-3.2# csrutil disable Successfully disabled System Integrity Protection. Please restart the machine for the changes to take effetc. スワップを無効化する OSを再起動する(リカバリモードでなく通常起動) スワップ(Pagerデーモンの自動起動)を無効化す…

MySQL のリストパーティションにDEFAULTキーワードはない

…SQL のリストパーティションにDEFAULTキーワードはない模様。 list_partitionslist_partitions句を使用すると、columnのリテラル値のリストで表をパーティション化できます。リスト・パーティション化は、個々の行が固有のパーティションにマップする方法に関する制御に便利です。list_values_clause 各パーティションのlist_values_clauseでは、1つ以上の値を割り当てる必要があります。複数のパーティションに同じ値(NU…

SQL Workbench/J で Amazon Redshift に接続する

…データベースのプロパティ]-[JDBC URL] を指定する。 Username: クラスター作成時に設定したユーザー名を指定する Password: クラスター作成時に設定したパスワードを指定する 使ってみる [Tools]-[ShowDbTree] を選択する。 表などを選択して、右クリックして[Put Select Into]-[StatementN] を選択する。 SQLを選択して、実行ボタンをクリックする。 補足 SQL Workbench/J can also b…

macOS の標準パフォーマンス分析ツール

Mac

…ウインドウ]-[アクティビティモニタ]、[CPU使用率]、[CPUの履歴]でウインドウの表示/非表示を切替える。 アクティビティモニタでプロセスを選択して、[表示]-[プロセスの詳細を表示] アクティビティモニタでプロセスを選択して、[表示]-[プロセスのサンプルを収集] uptime $ uptime 17:38 up 1 day, 7:05, 1 user, load averages: 1.79 2.10 2.56 top $ top -o cpu Processes:…

AWS クラウドアーキテクチャのベストプラクティス

AWS

…10個のベストプラクティス 性能/可用性/コスト(運用含む)に集約される AWS Black Belt Online Seminar 2016 クラウドのためのアーキテクチャ設計 -ベストプラクティス- from Amazon Web Services Japan Well Architected Framework 優れたアーキテクチャの五本柱 AWS Black Belt Online Seminar 2017 AWS Well Architected Program f…

Kinesis Stream でシャードへの分散具合を見てみる

AWS

…000件PUT(パーティションキーに 1〜1000の連番を指定)してみてだいたい均等に分散することを確認してみた。 ストリームを作成する $ aws kinesis create-stream --stream-name shard10 --shard-count 10 確認する $ aws kinesis list-streams { "StreamNames": [ "shard10" ] } ストリームに 1000件 PUT する $ for i in {1..1000…

Amazon DynamoDB に負荷をかけてみる

AWS

…le プライマリパーティションキー:firstname(文字列) JDKのインストール $ sudo yum -y install java-1.7.0-openjdk-devel git Mavenの取得 Mavenのダウンロード curl -O http://ftp.tsukuba.wide.ad.jp/software/apache/maven/maven-3/3.5.0/binaries/apache-maven-3.5.0-bin.tar.gz 展開する $ tar…

S3で jQuery を使って SSI 的なことをする

AWS

…バケットの [プロパティ]-[Static website hosting] を選択し、 [エンドポイント]の URL にブラウザでアクセスしてみると無事成功 手順 S3 にバケットを作成する 作成したバケットの [プロパティ]-[Static website hosting]で以下の通り入力して保存 「このバケットを使用してウェブサイトをホストする」を選択 インデックスドキュメント: index.html エラードキュメント: error.html 作成したバケットの[アク…

AWS の IAM(Identity and Access Management) についてメモ

AWS

…いる 一時的セキュリティ認証情報(Temporary Security Credentials)は以下の3つからなる アクセスキー シークレットアクセスキー セッショントークン デフォルトでグローバルサービスとして単一エンドポイント: https://sts.amazonaws.com IAMのAccount Settingsより各リージョンでSTS機能をアクティベート可能(レイテンシー低減、冗長性などのため) IAMロール IAMユーザーやIAMグループではなく、AWSサー…

AWS の VPC(Virtual Private Network) についてメモ

AWS

…) アベイラビリティゾーン(AZ) AZは1つ以上のデータセンターで構成される 1リージョン内にAZが複数存在 AZはお互いに地理的・電源的・ネットワーク的に分離 2つのAZを利用した冗長構成を容易に構築 リージョン内のAZ間は高速専用線で接続(リージョン間はインターネット経由) ネットワークACL と セキュリティグループ ネットワークACL セキュリティグループ サブネットレベルで効果 サーバレベルで効果 Allow/DenyをIN…

NoDB: Efficient Query Execution on Raw Data Files

…で実現するインタラクティブクエリ - dbtech showcase 2014 Tokyo from Treasure Data, Inc. Prestoで実現するインタラクティブクエリ - dbtech showcase 2014 Tokyo from Treasure Data, Inc. Athena は本格的な DWH というよりは以下のように分析頻度の低いデータをアドホックに分析するユースケースが向き。 AWS Black Belt Online Seminar 2…

列指向データベースのページのデータ構造

…た統計 クエリーオプティマイザ データ構造 SIMD Introduction to Modern Analytical DB from Takeshi Yamamuro MonetDB/X100 - A DBMS In The CPU Cache We argue that the poor performance of MySQL and the commercial RDBMS “X” is related to the Volcano iterator pipelin…

Amazon Redshift を使ってみる

AWS

…Node コンピューティングノードの数: 4 クライアント(JackDB)から接続する Log in | JackDB にアカウントを作成する。 [+ Add a data source] を選択する New Data Source: Amazon Redshift Name: dc1large4node Host: AWSコンソールのエンドポイント(ポート番号「5439」除く) Database: zion Username: neo Password: 上で設定したパスワ…

Amazon Redshift とは

AWS

…ラム型かつ、コモディティハードウェアで動作するスケールアウト型のデータベース」を作るため、ParAccel社を立ち上げ、『ParAccel MPP』というデータベースを作りました。(この記事によると、『ParAccel MPP』は『Amazon Redshift』の元となったデータベースとのことです。すごい!) そしてBarry Zane氏、現在はSparql Cityという会社を立ち上げ、Hadoopをベースにしたスケーラブルかつコモディティハードウェアで動作するグラフ分析…

「エキスパートはどう考えるか? 体感!パフォーマンスチューニング」@DB Connect 2017

…もっと豊かにするユーティリティのすすめ〜 from Michitoshi Yoshida togetter(Twitterでのつぶやきまとめ) https://togetter.com/li/1088687 発表者のブログ Oracle Database Connect 2017ご参加ありがとうございました+tweetまとめ | コーソルDatabaseエンジニアのBlog Oracle Database Connect 2017にて登壇いたします | NTTデータ先端技術株…

「SQL性能を最大限に引き出すDB 12cクエリー・オプティマイザ」 @TechNight#7

…12cクエリー・オプティマイザ 〜 新機能活用と統計情報運用の戦略 〜」というお題で発表しました。 内容 SQL性能を最大限に引き出すDB 12cクエリー・オプティマイザ 〜 新機能活用と統計情報運用の戦略 〜 柴田歩(id:gonsuke777)さん、畔勝で発表。 内容は Oracle DBA & Developer Day 2016 で発表しました - ablog とほぼ同じですが、DDD2016 の公開資料には含めていなかった12.2の変更点や各リリースでの各機能のデフ…

「簡単!AWRをEXCELピボットグラフで分析しよう♪」というお題で発表しました

…サルがトラブルシューティングや性能ヘルスチェックでAWRレポート、V$ASH、DBA_HIST_ASH、DBA_HIST_SQLSTAT などをEXCELピボットグラフで分析する現場ワザの一部を紹介しました。Kibana のようなツールを使っていないのは、グラフの軸のおき方を伝えたかったからです。比較的誰でも使いやすい EXCEL で説明していますが、考え方がわかればどんなツールでも実装できます。発表スライドは以下です。 簡単!AWRをEXCELピボットグラフで分析しよう♪ …

EM監視メトリックのWeblogicのアクティブ・セッションは何か

…eblogicのアクティブ・セッションは何か - ablog 教えていただいたServlet仕様のHttpSessionについて一部引用。 The servlet container uses this interface to create a session between an HTTP client and an HTTP server. The session persists for a specified time period, across more tha…

SQLテスト・ケース・ビルダーで再現ケースを作成する

…の性能トラブルシューティングでよく使うので書いておきます。 エクスポート 共有プールに共有カーソルのキャッシュが残っている場合 データベースにログオンする sqlplus / as sysdba 共有プールに共有カーソルがキャッシュされているか確認する SELECT COUNT(1) FROM V$SQL WHERE SQL_ID='a5ks9fhw2v9s1' AND PLAN_HASH_VALUE=272002086; キャッシュが残っていない場合、SQL_ID: a5k…

統計情報とSQL計画ディレクティブを操作するコマンド集

… SQL計画ディレクティブ 特定スキーマのSQL計画ディレクティブを削除する DECLARE CURSOR CU IS SELECT DISTINCT A.DIRECTIVE_ID DIRECTIVE_ID FROM DBA_SQL_PLAN_DIRECTIVES A, DBA_SQL_PLAN_DIR_OBJECTS B WHERE B.OWNER = 'SCOTT' AND A.DIRECTIVE_ID = B.DIRECTIVE_ID; BEGIN FOR REC IN…