Amazon Linux や EC2 は関係ない話だが、Public key を Amazon Linux on EC2 に登録して、Mac から ssh 接続しようとすると、
$ ssh -i ~/.ssh/id_rsa.pub tmsuser@ec2-**-***-174-72.ap-northeast-1.compute.amazonaws.com (中略) Permission denied (publickey).
以下の通りローカルで鍵を登録すると接続できた。
ssh-add -K ~/.ssh/id_rsa