2020-06-01から1ヶ月間の記事一覧

Elasticsearch/Kibanaのインストールからcliでのデータ操作とブラウザでのデータ確認を試す

Elasticsearchをインストール Kibanaをインストール 起動 Elasticsearchのデータ操作をコンソールから試す Kibanaをブラウザから試す Elasticsearchをインストール Install Elasticsearch from archive on Linux or MacOS | Elasticsearch Reference [7.8] |…

unzipコマンドで unsupported compression method 99 というエラー

unzipコマンドで以下のようなエラーが出てしまう場合 $ unzip foo.zip Archive: foo.zip skipping: foo.txt unsupported compression method 99 圧縮方式が対応していないらしいです。7zというコマンドであれば解凍できました。 7zのインストール方法です。 …

AWS Elasticsearch/KibanaにCognitoの認証を組み合わせてみる

AWS

Amazon Elasticsearch ServiceのKibanaにAmazon Cognitoを組み合わせると、KibanaにID/PWでのログイン認証を実装できます。ネットワーク的な制限では足りなくて、ID/PWで制限をかけたい場合には使えそうです。 AWSのマネジメントコンソールでAmazon Elastics…

連続した数字や日付や時刻を出力するには(seqコマンド)

数値 連続した整数を出力させるにはseqコマンドを使います。 こんな感じです。 数を1つ指定して、1からその数までの整数を出力するには $ seq 5 1 2 3 4 5 1でない数からスタートして整数を出力するには、最初の値と最後の値を指定して $ seq 3 5 3 4 5 さら…

AWS RDS PostgreSQLのクエリログをawscliで取得するワンライナー

AWS

事前の設定 AWS RDS PostgreSQLでクエリのログをすべてログに残すには、パラメータグループで以下のように設定します。 log_statement=all log_min_duration_statement=0 log_statement=allはすべての種類のクエリログを記録するという指示で、log_min_durat…

TCP/UDP/IPプロトコルの各レイヤーで処理しているパケットの情報

L2のリンク層、L3のインターネット層、L4のトランスポート層で処理している役割を、各レイヤーのパケットに含まれるヘッダ情報を整理することで理解します。 リンク層(L2) インターネット層(L3) トランスポート層(L4) ICMP UDP TCP リンク層(L2) 機能 MACア…

たくさんのAWS Glue Jobを実行している環境で実行履歴をまとめて見るワンライナー

AWS

AWSのマネジメントコンソールでGlue Jobの実行履歴を見るには、見たいGlue Jobを選択します。選択したJobの実行履歴が画面の下半分に表示されます。cliで確認するには aws glue get-job-runs というコマンドにJobを指定します。 しかしこれでは、Glue Jobが…

AWS DocumentDBのクラスタ構築からmongoコマンドで接続するまで

AWS

Amazon DocumentDBはインターフェースがMongoDBと互換性のあるJSON-likeなデータを保存できるデータベースです。AWS独自の実装で、MongoDBのマネージドサービスではありません。 この記事では、マネジメントコンソールでのDocumentDBのクラスタ構築と、EC2イ…

Metabaseの使い方:用語のまとめ

Metabaseはオープンソースのデータ可視化ツールです。Metabaseの用語と用語相互の関連性についての説明です。 Metabaseを初めて触るときには Question, Dashboard, Collection の関係性を把握してからにするとわかりやすいです。MetabaseにおいてはQuestion…

Metabaseの使い方:グローバルメニュー

この記事ではMetabaseのグローバルメニューを説明します。 グローバルメニューは表示しているコンテンツに関係なくどのページでも同じ機能です。 検索 左上の検索バーからはQuestion、Dashboard、Collection、Tableを検索できます。 右上の「Ask a question…

重回帰分析(多値)を分散・共分散から計算する式

重回帰分析(2値)を平均・分散・共分散・相関係数から計算する式の記事で計算した独立変数が2つの重回帰分析を、独立変数 個の重回帰分析に一般化します。 独立変数が2つの重回帰分析での を に、 を に置き換えます。 この記事では をまとめて 、 をまとめて…

Metabaseの使い方:Questionに至る画面遷移

この記事ではMetabaseのページ遷移を説明します。 MetabaseではQuestionというものが基本的な構成要素です。データに対して問い合わせ(Question)をすると答え(Answer)をグラフや表などの方法で可視化してくれます。 Dashboardは複数のQuestionを1画面に収め…

重回帰分析(2値)を平均・分散・共分散・相関係数から計算する式

単回帰分析を平均・分散・共分散・相関係数から計算する式の記事と同じ流れで計算します。 以下の式でフィットさせ、最小二乗法で を求めます。 実際の の値と上の式で計算した との差分の二乗 を以下で表します。 を で偏微分すると0になる が の最小値とな…

単回帰分析を平均・分散・共分散・相関係数から計算する式

以下の式でフィットさせ、最小二乗法で を求めます。 実際の の値と上の式で計算した との差分の二乗 を以下で表します。 を で偏微分すると0になる が の最小値となりますので、偏微分します。 偏微分が0となる を求める連立方程式 に先程の計算結果を利用…

td-agentとrbenv/gemでインストールしたfluentdのディレクトリ構成の比較

rbenv/gemでインストール rbenvでRubyをインストールして gem install fluentd でFluentdをインストールした場合 Rubyの実体の場所 $ ~/.rbenv/versions/2.7.1/bin/ruby --version ruby 2.7.1p83 (2020-03-31 revision a0c7c23c9c) [x86_64-linux] fluentdの…

平均・分散・共分散・相関係数の計算式

平均 分散 共分散 後述の相関係数を使うと 相関係数 リンク 私の関連記事 平均・分散・共分散・相関係数の計算式 単回帰分析を平均・分散・共分散・相関係数から計算する式 重回帰分析(2値)を平均・分散・共分散・相関係数から計算する式 重回帰分析(多値)を…