ようへい

2020年1月14日火曜日

Git で毎回 SSH パスワードを入力しなくていいようにする

セキュリティ考えてる人は SSH キーにパスワードを設定してると思いますが、この場合 git コマンドを打つたびにパスワードを聞かれるのが厄介。
これを解消します。
test -f ~/.bashrc && . ~/.bashrc
# Setup ssh-agent
if [ -f ~/.ssh-agent ]; then
    . ~/.ssh-agent
fi
if [ -z "$SSH_AGENT_PID" ] || ! kill -0 $SSH_AGENT_PID; then
    ssh-agent > ~/.ssh-agent
    . ~/.ssh-agent
fi
ssh-add -l >& /dev/null || ssh-add
~/.ssh-agentssh-agent の実行に必要な情報を書いておき、それを使い回す感じ。
最後の行で、読み込まれた認証情報があるか確認し、なければ ssh-add するという感じ。
ssh キーがデフォルトのパス(~/.ssh/id_rsa) 以外にある場合は、
ssh-add -l >& /dev/null || ssh-add /path/to/id_rsa
のようにすればいいはず。 次回ログイン時にパスワードを聞かれますが、以後は ssh-agent がいい感じにやってくれると思います。
たぶん Linux でも Git for Windows の Git Bash でも同じはず。
Windwos のコマンドプロンプトとかから使いたい場合は、
  1. puttygen で、Conversions -> Save private key で変換
  2. pageant に変換したキーファイルを読み込ませて起動
    pagent.exe ~\.ssh\id_rsa.ppk
  3. 環境変数 GIT_SSH に plink.exe のパスを設定
でいいはず。
関連記事

2020年1月8日水曜日

随時更新 - [AdAway] 日本環境向け 広告除去用hosts

AdAwayで使用可能な、日本環境用 広告除去用hostsを公開します。
日本環境用に特化しています。
新たな広告を見つけ次第、随時追加予定
リストで除去されないアプリ、または新しいhostを見つけた方はコメントにて連絡いただけるとありがたいです。
また、広告に関係のないサイト、またはhostsでブロックすることによる影響が大きいようであれば除去していきますのでコメントください。

以下のページでhostの調査方法等記載しています。
[AdAway] 広告配信hostの調査、ブラックリストへの追加方法 - ログろいど

なお、ここで公開しているhostリストは、私が調査したhost以外に、2chのAndroid hostsスレからも引用しています。
スレの皆様ありがとうございます。

hosts に登録してあるサイト

hosts には以下のようなカテゴリに含まれると思われるドメインを登録してあります。
  • 広告配信ドメイン
  • 広告にリダイレクトするドメイン
  • マルウェアをダウンロードさせようとするドメイン
  • 詐欺まがいのサービスを提供しているドメイン (課金石xxx個全員プレゼント等)
  • IP Address (Geocode) から場所を表示し脅迫まがいのメッセージを表示するドメイン
  • 迷惑なサービスを提供しているドメイン

公開URL

以下のURLをAdAwayのhostsのソースに追加し、ファイルをダウンロードして適用をしてください。
どのように追加するか分からない方は、次項を読んでください。

https://logroid.github.io/adaway-hosts/hosts.txt

2017/09 より、ホスティング場所を Google サイト から GitHub に移動しました。
2020/01/08 より、リポジトリを変更しました。URL が変更されているので設定しなおしてください。

AdAway設定方法

  1. Androidでこの記事を開きます。
  2. 以下のURLをコピーします。
  3. AdAwayを起動し、メニューキー -> hostsのソースをタップします。
  4. をタップし、URLを貼り付けます。
  5. 追加をタップします。
2018/06/16 更新 - 日本環境向け 広告除去用hosts
追加後は、ファイルをダウンロードして適用を実行してください。

hosts を更新しても Google Chrome で広告が表示される場合

Chrome のライトモードをオフにしてください。
関連記事

Windows で plink を使用して ssh 接続する際、 Store key in cache? (y/n) でタイプできなくなった場合の対処法

Windows で plink を使用し、GitHub に ssh 接続しようとしたのだが、
$ git fetch                                                    
The server's host key is not cached in the registry. You       
have no guarantee that the server is the computer you          
think it is.                                                   
The server's rsa2 key fingerprint is:                          
ssh-rsa 2048 xx:xx:xx:xx:xx:xx:xx:xx:xx:xx:xx:xx:xx:xx:xx:xx   
If you trust this host, enter "y" to add the key to            
PuTTY's cache and carry on connecting.                         
If you want to carry on connecting just once, without          
adding the key to the cache, enter "n".                        
If you do not trust this host, press Return to abandon the     
connection.                                                    
Store key in cache? (y/n)                                      
y とタイプしたいのに入力できない。
この場合、puttyjp.exe を起動し、接続することで対応できる。
GitHub なら github.com と入力し、開く をクリック。
あとはキーを store するか聞かれるので Yes をクリックすれば store できます。
次回からはターミナルで操作できます。
関連記事

2020年1月7日火曜日

MySQL Enterprise 5.6 -> 5.7 -> 8.0 へのアップグレード手順

  • MySQL-server-advanced-5.6.46-1.el7.x86_64.rpm
  • MySQL-client-advanced-5.6.46-1.el7.x86_64.rpm
などがインストールされているRHEL7の環境

MySQL 5.7

  • mysql-commercial-server-5.7.28-1.1.el7.x86_64.rpm
  • mysql-commercial-client-5.7.28-1.1.el7.x86_64.rpm

MySQL 8.0

  • mysql-commercial-server-8.0.18-1.1.el7.x86_64.rpm
  • mysql-commercial-client-8.0.18-1.1.el7.x86_64.rpm
などが入った zip を Oracle のサポートサイトから取得
VM 上でやるため、バックアップとかは取得せずやります

MySQL 5.6 -> 5.7

# rpm -qa | grep MySQL
MySQL-devel-advanced-5.6.46-1.el7.x86_64
MySQL-shared-compat-advanced-5.6.46-1.el7.x86_64
MySQL-server-advanced-5.6.46-1.el7.x86_64
MySQL-client-advanced-5.6.46-1.el7.x86_64
MySQL-shared-advanced-5.6.46-1.el7.x86_64
# systemctl stop mysql
# rpm -Uvh mysql-commercial-*
警告: mysql-commercial-client-5.7.28-1.1.el7.x86_64.rpm: ヘッダー V3 DSA/SHA1 Signature、鍵 ID 5072e1f5: NOKEY
準備しています...              ################################# [100%]
更新中 / インストール中...
   1:mysql-commercial-common-5.7.28-1.################################# [ 11%]
   2:mysql-commercial-libs-5.7.28-1.1.################################# [ 22%]
   3:mysql-commercial-client-5.7.28-1.################################# [ 33%]
   4:mysql-commercial-server-5.7.28-1.################################# [ 44%]
   5:mysql-commercial-libs-compat-5.7.################################# [ 56%]
整理中 / 削除中...
   6:MySQL-server-advanced-5.6.46-1.el################################# [ 67%]
   7:MySQL-shared-compat-advanced-5.6.################################# [ 78%]
   8:MySQL-shared-advanced-5.6.46-1.el################################# [ 89%]
   9:MySQL-client-advanced-5.6.46-1.el################################# [100%]
# systemctl start mysql
Warning: mysql.service changed on disk. Run 'systemctl daemon-reload' to reload units.
Job for mysql.service failed because the control process exited with error code. See "systemctl status mysql.service" and "journalctl -xe" for details.
# systemctl daemon-reload
# systemctl start mysql
Failed to start mysql.service: Unit mysql.service failed to load: No such file or directory.
mysql が無いらしい。
# systemctl list-units --type=service --all | grep mysql
● mysql.service                          not-found failed   failed  mysql.service
  mysqld.service                         loaded    inactive dead    MySQL Server
mysqld になってた。
# systemctl disable mysql
# systemctl start mysqld
# systemctl status mysqld
● mysqld.service - MySQL Server
   Loaded: loaded (/usr/lib/systemd/system/mysqld.service; enabled; vendor preset: disabled)
   Active: active (running) since 金 2019-11-15 12:13:09 JST; 23s ago
     Docs: man:mysqld(8)
           http://dev.mysql.com/doc/refman/en/using-systemd.html
  Process: 2401 ExecStart=/usr/sbin/mysqld --daemonize --pid-file=/var/run/mysqld/mysqld.pid $MYSQLD_OPTS (code=exited, status=0/SUCCESS)
  Process: 2384 ExecStartPre=/usr/bin/mysqld_pre_systemd (code=exited, status=0/SUCCESS)
 Main PID: 2405 (mysqld)
   CGroup: /system.slice/mysqld.service
           mq2405 /usr/sbin/mysqld --daemonize --pid-file=/var/run/mysqld/mysqld.pid

11月 15 12:12:59 localhost.localdomain systemd[1]: Starting MySQL Server...
11月 15 12:13:09 localhost.localdomain systemd[1]: Started MySQL Server.
# mysql_upgrade -uroot -p
Enter password:
Checking if update is needed.
Checking server version.
Running queries to upgrade MySQL server.
Checking system database.
mysql.columns_priv                                 OK
mysql.db                                           OK
mysql.engine_cost                                  OK
mysql.event                                        OK
mysql.func                                         OK
mysql.general_log                                  OK
mysql.gtid_executed                                OK
mysql.help_category                                OK
mysql.help_keyword                                 OK
mysql.help_relation                                OK
mysql.help_topic                                   OK
mysql.innodb_index_stats                           OK
mysql.innodb_table_stats                           OK
mysql.ndb_binlog_index                             OK
mysql.plugin                                       OK
mysql.proc                                         OK
mysql.procs_priv                                   OK
mysql.proxies_priv                                 OK
mysql.server_cost                                  OK
mysql.servers                                      OK
mysql.slave_master_info                            OK
mysql.slave_relay_log_info                         OK
mysql.slave_worker_info                            OK
mysql.slow_log                                     OK
mysql.tables_priv                                  OK
mysql.time_zone                                    OK
mysql.time_zone_leap_second                        OK
mysql.time_zone_name                               OK
mysql.time_zone_transition                         OK
mysql.time_zone_transition_type                    OK
mysql.user                                         OK
Upgrading the sys schema.
Checking databases.
<DB名>.<Table名>                                   OK
Upgrade process completed successfully.
Checking if update is needed.
# systemctl restart mysqld
# systemctl status mysqld
● mysqld.service - MySQL Server
   Loaded: loaded (/usr/lib/systemd/system/mysqld.service; enabled; vendor preset: disabled)
   Active: active (running) since 金 2019-11-15 12:20:24 JST; 2s ago
     Docs: man:mysqld(8)
           http://dev.mysql.com/doc/refman/en/using-systemd.html
  Process: 2608 ExecStart=/usr/sbin/mysqld --daemonize --pid-file=/var/run/mysqld/mysqld.pid $MYSQLD_OPTS (code=exited, status=0/SUCCESS)
  Process: 2590 ExecStartPre=/usr/bin/mysqld_pre_systemd (code=exited, status=0/SUCCESS)
 Main PID: 2612 (mysqld)
   CGroup: /system.slice/mysqld.service
           mq2612 /usr/sbin/mysqld --daemonize --pid-file=/var/run/mysqld/mysqld.pid

11月 15 12:20:23 localhost.localdomain systemd[1]: Starting MySQL Server...
11月 15 12:20:24 localhost.localdomain systemd[1]: Started MySQL Server.
# mysqlcheck -uroot -p --all-databases
Enter password:
mysql.columns_priv                                 OK
mysql.db                                           OK
mysql.engine_cost                                  OK
mysql.event                                        OK
mysql.func                                         OK
mysql.general_log                                  OK
mysql.gtid_executed                                OK
mysql.help_category                                OK
mysql.help_keyword                                 OK
mysql.help_relation                                OK
mysql.help_topic                                   OK
mysql.innodb_index_stats                           OK
mysql.innodb_table_stats                           OK
mysql.ndb_binlog_index                             OK
mysql.plugin                                       OK
mysql.proc                                         OK
mysql.procs_priv                                   OK
mysql.proxies_priv                                 OK
mysql.server_cost                                  OK
mysql.servers                                      OK
mysql.slave_master_info                            OK
mysql.slave_relay_log_info                         OK
mysql.slave_worker_info                            OK
mysql.slow_log                                     OK
mysql.tables_priv                                  OK
mysql.time_zone                                    OK
mysql.time_zone_leap_second                        OK
mysql.time_zone_name                               OK
mysql.time_zone_transition                         OK
mysql.time_zone_transition_type                    OK
mysql.user                                         OK
<DB名>.<Table名>                                   OK
sys.sys_config                                     OK

MySQL 5.7 -> 8.0

# rpm -qa | grep mysql
mysql-commercial-server-5.7.28-1.1.el7.x86_64
mysql-commercial-common-5.7.28-1.1.el7.x86_64
mysql-commercial-client-5.7.28-1.1.el7.x86_64
mysql-commercial-libs-compat-5.7.28-1.1.el7.x86_64
mysql-commercial-libs-5.7.28-1.1.el7.x86_64
# systemctl stop mysqld
# rpm -Fvh mysql-commercial-*-8.0*
警告: mysql-commercial-backup-8.0.18-1.1.el7.x86_64.rpm: ヘッダー V3 DSA/SHA1 Signature、鍵 ID 5072e1f5: NOKEY
準備しています...              ################################# [100%]
更新中 / インストール中...
   1:mysql-commercial-common-8.0.18-1.################################# [  9%]
   2:mysql-commercial-libs-8.0.18-1.1.################################# [ 18%]
   3:mysql-commercial-client-8.0.18-1.################################# [ 27%]
   4:mysql-commercial-server-8.0.18-1.################################# [ 36%]
   5:mysql-commercial-libs-compat-8.0.################################# [ 45%]
   6:mysql-commercial-backup-8.0.18-1.################################# [ 55%]
整理中 / 削除中...
   7:mysql-commercial-server-5.7.28-1.################################# [ 64%]
   8:mysql-commercial-client-5.7.28-1.################################# [ 73%]
   9:mysql-commercial-libs-compat-5.7.################################# [ 82%]
  10:mysql-commercial-libs-5.7.28-1.1.################################# [ 91%]
  11:mysql-commercial-common-5.7.28-1.################################# [100%]
まぁまぁ時間かかります。
router とかは必要に合わせて入れる感じで。
# systemctl start mysqld
まぁまぁ時間かかります。
# systemctl status mysqld
● mysqld.service - MySQL Server
   Loaded: loaded (/usr/lib/systemd/system/mysqld.service; enabled; vendor preset: disabled)
   Active: active (running) since 金 2019-11-15 12:33:33 JST; 26s ago
     Docs: man:mysqld(8)
           http://dev.mysql.com/doc/refman/en/using-systemd.html
  Process: 3169 ExecStartPre=/usr/bin/mysqld_pre_systemd (code=exited, status=0/SUCCESS)
 Main PID: 3200 (mysqld)
   Status: "Server is operational"
   CGroup: /system.slice/mysqld.service
           mq3200 /usr/sbin/mysqld

11月 15 12:33:02 localhost.localdomain systemd[1]: Starting MySQL Server...
11月 15 12:33:33 localhost.localdomain systemd[1]: Started MySQL Server.
# mysql_upgrade -uroot -p
Enter password:
The mysql_upgrade client is now deprecated. The actions executed by the upgrade client are now done by the server.
To upgrade, please start the new MySQL binary with the older data directory. Repairing user tables is done automatically. Restart is not required after upgrade.
The upgrade process automatically starts on running a new MySQL binary with an older data directory. To avoid accidental upgrades, please use the --upgrade=NONE option with the MySQL binary. The option --upgrade=FORCE is also provided to run the server upgrade sequence on demand.
It may be possible that the server upgrade fails due to a number of reasons. In that case, the upgrade sequence will run again during the next MySQL server start. If the server upgrade fails repeatedly, the server can be started with the --upgrade=MINIMAL option to start the server without executing the upgrade sequence, thus allowing users to manually rectify the problem.
mysql_upgrade は非推奨になって、起動時に自動でアップグレードされるようになったらしい。
# mysqlcheck -uroot -p --all-databases
Enter password:
mysql.columns_priv                                 OK
mysql.component                                    OK
mysql.db                                           OK
mysql.default_roles                                OK
mysql.engine_cost                                  OK
mysql.func                                         OK
mysql.general_log                                  OK
mysql.global_grants                                OK
mysql.gtid_executed                                OK
mysql.help_category                                OK
mysql.help_keyword                                 OK
mysql.help_relation                                OK
mysql.help_topic                                   OK
mysql.innodb_index_stats                           OK
mysql.innodb_table_stats                           OK
mysql.ndb_binlog_index                             OK
mysql.password_history                             OK
mysql.plugin                                       OK
mysql.procs_priv                                   OK
mysql.proxies_priv                                 OK
mysql.role_edges                                   OK
mysql.server_cost                                  OK
mysql.servers                                      OK
mysql.slave_master_info                            OK
mysql.slave_relay_log_info                         OK
mysql.slave_worker_info                            OK
mysql.slow_log                                     OK
mysql.tables_priv                                  OK
mysql.time_zone                                    OK
mysql.time_zone_leap_second                        OK
mysql.time_zone_name                               OK
mysql.time_zone_transition                         OK
mysql.time_zone_transition_type                    OK
mysql.user                                         OK
<DB名>.<Table名>                                   OK
sys.sys_config                                     OK
# rpm -qa | grep mysql
mysql-commercial-client-8.0.18-1.1.el7.x86_64
mysql-commercial-libs-8.0.18-1.1.el7.x86_64
mysql-commercial-server-8.0.18-1.1.el7.x86_64
mysql-commercial-backup-8.0.18-1.1.el7.x86_64
mysql-commercial-common-8.0.18-1.1.el7.x86_64
mysql-commercial-libs-compat-8.0.18-1.1.el7.x86_6
特に問題なくアップグレードできました。
関連記事

twit で Error: incorrect header check が発生する場合の対処法

Chrome Extension で twit を使い Twitter からデータを取得していたのだが、11月くらいから Error: incorrect header check が発生していた。 パケットを見るとデータの取得は出来ているようだったが、スタックトレースを見ると、以下のようなログが出ていた。
11:59:05.119 background.ts:298 Error: incorrect header check
    at Zlib._handle.onerror (index.js:352)
    at Zlib._error (binding.js:283)
    at Zlib._checkError (binding.js:254)
    at Zlib._after (binding.js:262)
    at eval (binding.js:126)
    at eval (process.js:5)
GitHub 側にも報告有り。
Error: data error: incorrect header check · Issue #520 · ttezel/twit · GitHub
https://github.com/ttezel/twit/issues/520 想像だが、11月から Twitter APIが乗っているサーバが変わったとかで、gzip 圧縮の仕様が変わり、 Accept-Encoding: gzip を付けてAPIをリクエストした場合、返された gzip データを解凍できなくなり発生しているんだと思う。
gzip 圧縮を許可させなければいいので、twit のソースを変更することで、対処できそう。
本当は pull request 出せればいいんですが、issue 見ても動きが無いし、プロジェクトはもう動いて無い感じ・・・。
そして twit よりよさげな Twitter API クライアントも無い。
なので、twit にモンキーパッチを当てて回避する。
モンキーパッチで対処するため、パラメタで On/Off とかも考えず、とりあえず gzip 圧縮を無効にする。 まず、twit にパッチを当てたいので、patch-package を入れることにする。
$ yarn add -D patch-package
package.json の scripts に "postinstall": "patch-package" を追加
  "scripts": {
    "serve": "vue-cli-service serve",
    "build": "vue-cli-service build",
    "build:report": "vue-cli-service build --report",
    "build:dev": "vue-cli-service build --mode development",
    "build-watch": "vue-cli-service build-watch",
    "build-watch:dev": "vue-cli-service build-watch --mode development",
    "postinstall": "patch-package"
  },
twit の twitter.js の L208 をコメントアウト
twit/twitter.js at master · ttezel/twit · GitHub
https://github.com/ttezel/twit/blob/master/lib/twitter.js#L208
diff --git a/node_modules/twit/lib/twitter.js b/node_modules/twit/lib/twitter.js
index 9540857..c6baae3 100644
--- a/node_modules/twit/lib/twitter.js
+++ b/node_modules/twit/lib/twitter.js
@@ -205,7 +205,7 @@ Twitter.prototype._buildReqOpts = function (method, path, params, isStreaming, c
       'Accept': '*/*',
       'User-Agent': 'twit-client'
     },
-    gzip: true,
+    // gzip: true,
     encoding: null,
   }
パッチ作成
$ npx patch-package twit
パッチが効いているか試すため twit を入れなおす。
$ yarn remove twit
$ yarn add -D twit
これで twitter.js の L208 がコメントアウトされていればOK。
あとは build して、Error: incorrect header check が発生しないことを確認する。
関連記事