ssh 사용법 정리
SSH 키 사용법 정리
Nov 16, 2026 · @SLee
개요
SSH 키 인증은 ed25519 키를 기기마다 하나씩 만들고, 공개키만 서버에 등록한 뒤, 서버의 비밀번호 로그인을 막는 순서로 쓰면 됩니다.
SSH 키는 한 쌍으로 이루어집니다.
- 개인키(private key): 내 컴퓨터에만 둡니다. 절대 외부로 보내거나 공유하지 않습니다.
- 공개키(public key): 접속하려는 서버나 GitHub 같은 서비스에 등록합니다. 노출되어도 문제가 없습니다.
접속할 때 서버는 공개키로 “이 개인키를 가진 사람이 맞는지”를 확인합니다. 개인키와 비밀번호가 네트워크로 오가지 않으므로 비밀번호 방식보다 안전하고 편리합니다.
이 문서는 다음 순서로 구성되어 있습니다.
- 키 생성
- 공개키 등록
- 접속과 ssh-agent
~/.ssh/config로 여러 키·호스트 관리- 보안 관리
- 부록: 문제 해결과 명령어 요약
1. SSH 키 생성
특별한 이유가 없으면 ssh-keygen -t ed25519로 만들고 passphrase를 설정합니다.
알고리즘 선택
| 알고리즘 | 권장 여부 | 비고 |
|---|---|---|
| ed25519 | 기본 권장 | 키가 짧고 빠르며 안전합니다 |
| ed25519-sk | 고급 권장 | YubiKey 같은 하드웨어 보안키에 개인키를 묶어 둡니다 |
| RSA 4096 | 호환용 | 아주 오래된 서버나 장비에 접속할 때만 씁니다 |
| ECDSA | 비권장 | 특별한 이유가 없으면 ed25519가 낫습니다 |
| DSA | 사용 금지 | 최신 OpenSSH에서 비활성화되어 있습니다 |
생성 명령
ssh-keygen -t ed25519 -C "arbji@laptop-2026" -f ~/.ssh/id_ed25519
| 옵션 | 의미 |
|---|---|
-t |
키 종류 (ed25519, rsa 등) |
-C |
주석. “누가, 어느 기기에서” 만든 키인지 적어 두면 관리가 편합니다 |
-f |
저장할 파일 경로 |
-b |
키 길이. RSA에만 의미가 있습니다 (예: -b 4096) |
-a |
passphrase 보호용 KDF 반복 횟수 (기본 16, 높을수록 무차별 대입에 강합니다) |
RSA가 꼭 필요할 때는 다음과 같이 만듭니다.
ssh-keygen -t rsa -b 4096 -C "arbji@legacy" -f ~/.ssh/id_rsa_legacy
Passphrase
passphrase는 개인키 파일 자체를 암호화하는 비밀번호입니다. 노트북을 잃거나 파일이 유출되어도 바로 쓰이지 못하게 막아 줍니다.
- 비워 두면 파일만 손에 넣은 사람도 그 키로 접속할 수 있습니다.
- 매번 입력하는 불편함은 ssh-agent(3장)로 해결합니다.
- 자동화 스크립트용처럼 부득이하게 비워야 하는 키는 용도를 좁게 제한합니다(5장).
생성 결과와 파일 권한
~/.ssh/
├── id_ed25519 ← 개인키 (절대 공유 금지)
└── id_ed25519.pub ← 공개키 (서버·서비스에 등록)
공개키는 ssh-ed25519 AAAAC3NzaC1lZDI1NTE5AAAAI... arbji@laptop-2026 형태의 한 줄입니다.
파일 이름 id_의 의미. id는 identity(나를 증명하는 키)의 줄임말이며, OpenSSH가 정한 기본 파일 이름입니다. SSH 프로토콜 1 시절에는 개인키 파일 이름이 ~/.ssh/identity였고, 키 종류가 늘면서 id_<종류> 형태가 되었습니다. config 옵션 이름이 IdentityFile인 것도 같은 이유입니다.
| 키 종류 | 기본 파일 이름 |
|---|---|
| ed25519 | id_ed25519 |
| RSA | id_rsa |
| ECDSA | id_ecdsa |
| 하드웨어 보안키 | id_ed25519_sk, id_ecdsa_sk |
SSH 클라이언트는 이 기본 이름의 키를 자동으로 찾아 시도하므로, 키가 하나라면 기본 이름이 가장 편합니다. 다른 이름을 써도 되지만, 그때는 ssh -i로 지정하거나 ~/.ssh/config의 IdentityFile에 적어야 합니다. id_ed25519_github처럼 기본 이름 뒤에 용도를 붙이는 것은 종류와 용도가 한눈에 보이게 하는 관례이며, 규칙은 아닙니다.
Linux/macOS에서는 권한이 너무 열려 있으면 SSH가 키 사용을 거부합니다.
chmod 700 ~/.ssh
chmod 600 ~/.ssh/id_ed25519
chmod 644 ~/.ssh/id_ed25519.pub
Windows
Windows 10/11에는 OpenSSH가 기본으로 들어 있어 PowerShell에서 같은 명령을 씁니다. 저장 위치는 C:\Users\<사용자명>\.ssh\입니다.
ssh-keygen -t ed25519 -C "arbji@windows-pc"
생성 후 관리 명령
# 지문(fingerprint) 확인: 서버에 등록된 키와 대조할 때
ssh-keygen -lf ~/.ssh/id_ed25519.pub
# passphrase 변경·추가 (키 자체는 그대로)
ssh-keygen -p -f ~/.ssh/id_ed25519
# 공개키를 잃었을 때 개인키에서 다시 만들기
ssh-keygen -y -f ~/.ssh/id_ed25519 > ~/.ssh/id_ed25519.pub
실무 원칙
- 기기마다 키를 따로 만듭니다. 같은 개인키를 여러 컴퓨터에 복사하면, 한 대를 잃었을 때 등록한 모든 곳을 정리해야 합니다.
- 용도별로 나눌 수도 있습니다 (예:
id_ed25519_github,id_ed25519_homeserver). 이 경우 4장의 config 설정이 필요합니다. - 개인키는 백업하기보다 잃으면 새로 만들고 다시 등록하는 것이 일반적입니다.
2. 공개키 등록
서버에는 ssh-copy-id로, GitHub·GitLab에는 웹 설정 화면에 .pub 파일 내용을 붙여 넣어 등록합니다.
서버의 authorized_keys
서버는 접속하려는 계정의 ~/.ssh/authorized_keys 파일에 들어 있는 공개키만 허용합니다. 한 줄에 키 하나씩 들어갑니다. 예를 들어 deploy 계정으로 들어가려면 /home/deploy/.ssh/authorized_keys에 등록해야 합니다.
방법 1: ssh-copy-id (권장)
아직 비밀번호로 접속할 수 있을 때 가장 간단한 방법입니다. 디렉터리 생성과 권한 설정까지 알아서 처리합니다.
ssh-copy-id -i ~/.ssh/id_ed25519.pub user@server.example.com
# 포트가 22가 아닌 경우
ssh-copy-id -i ~/.ssh/id_ed25519.pub -p 2222 user@server.example.com
방법 2: 한 줄 명령 (ssh-copy-id가 없을 때)
Windows PowerShell에는 ssh-copy-id가 없으므로 다음처럼 보냅니다.
# Linux/macOS
cat ~/.ssh/id_ed25519.pub | ssh user@server "mkdir -p ~/.ssh && chmod 700 ~/.ssh && cat >> ~/.ssh/authorized_keys && chmod 600 ~/.ssh/authorized_keys"
# Windows PowerShell
type $env:USERPROFILE\.ssh\id_ed25519.pub | ssh user@server "mkdir -p ~/.ssh && chmod 700 ~/.ssh && cat >> ~/.ssh/authorized_keys && chmod 600 ~/.ssh/authorized_keys"
방법 3: 수동 등록
클라우드 콘솔이나 다른 관리자를 통해 등록할 때는 공개키 한 줄을 그대로 전달합니다.
cat ~/.ssh/id_ed25519.pub # 출력된 한 줄을 복사
서버에서는 그 줄을 ~/.ssh/authorized_keys 끝에 붙이고 권한을 맞춥니다. 줄바꿈이 끼어들거나 일부가 잘리면 인증이 실패합니다.
chmod 700 ~/.ssh
chmod 600 ~/.ssh/authorized_keys
AWS EC2, GCP 등 클라우드는 인스턴스를 만들 때 콘솔에서 공개키를 지정하면 이 파일에 자동으로 들어갑니다.
GitHub · GitLab
- 공개키 내용을 복사합니다. macOS는
pbcopy < ~/.ssh/id_ed25519.pub, Windows는Get-Content ~/.ssh/id_ed25519.pub | Set-Clipboard로 클립보드에 바로 넣을 수 있습니다. - GitHub: Settings → SSH and GPG keys → New SSH key에 붙여 넣습니다. Key type은 Authentication Key를 고릅니다.
- GitLab: Preferences → SSH Keys에 붙여 넣고 만료일을 지정할 수 있습니다.
- Title에는 기기 이름을 적어 두어 나중에 어느 키를 지울지 알 수 있게 합니다.
등록 후 확인합니다.
ssh -T git@github.com
# Hi <사용자명>! You've successfully authenticated ... 가 나오면 성공
저장소는 HTTPS가 아닌 SSH 주소로 클론해야 키가 쓰입니다.
git clone git@github.com:owner/repo.git
# 이미 HTTPS로 클론한 저장소를 SSH로 바꾸기
git remote set-url origin git@github.com:owner/repo.git
저장소 하나에만 접근하는 서버용 키는 계정 전체 키 대신 저장소의 Deploy key(저장소 Settings → Deploy keys)로 등록하는 편이 안전합니다.
3. 접속과 ssh-agent
기본 이름(id_ed25519 등)의 키는 자동으로 쓰이고, passphrase는 ssh-agent에 한 번 등록해 두면 다시 묻지 않습니다.
기본 접속
ssh user@server.example.com
ssh -p 2222 user@server.example.com # 포트 지정
ssh -i ~/.ssh/id_ed25519_homeserver user@server # 키 지정
SSH는 ~/.ssh/id_ed25519, ~/.ssh/id_rsa 등 기본 이름의 키를 자동으로 시도합니다. 다른 이름으로 만든 키는 -i로 지정하거나 4장의 config에 적어 둡니다.
첫 접속 시 호스트 확인
처음 접속하면 “The authenticity of host … can’t be established” 메시지와 서버 지문이 나옵니다. yes를 입력하면 ~/.ssh/known_hosts에 저장되고, 다음부터는 서버가 바뀌었는지 자동으로 확인합니다. 중요한 서버라면 관리자에게 받은 지문과 대조한 뒤 수락합니다.
ssh-agent의 역할
ssh-agent는 passphrase를 한 번 풀어 둔 개인키를 메모리에 들고 있는 프로그램입니다. 세션 동안에는 접속할 때마다 passphrase를 다시 입력하지 않아도 됩니다.
eval "$(ssh-agent -s)" # agent 시작 (대부분의 데스크톱 환경은 이미 실행 중)
ssh-add ~/.ssh/id_ed25519 # 키 등록 (passphrase 한 번 입력)
ssh-add -l # 등록된 키 목록
ssh-add -t 4h ~/.ssh/id_ed25519 # 4시간 뒤 자동 제거
ssh-add -D # 모든 키 제거
운영체제별 설정
| 환경 | 설정 방법 |
|---|---|
| macOS | ssh-add --apple-use-keychain ~/.ssh/id_ed25519로 키체인에 passphrase를 저장하고, config에 UseKeychain yes, AddKeysToAgent yes를 넣습니다 |
| Windows | 관리자 PowerShell에서 Get-Service ssh-agent | Set-Service -StartupType Automatic 후 Start-Service ssh-agent, 그다음 ssh-add |
| Linux 데스크톱 | GNOME Keyring 등이 agent 역할을 하는 경우가 많습니다. config에 AddKeysToAgent yes를 넣으면 첫 사용 때 자동 등록됩니다 |
Agent forwarding 주의
ssh -A나 ForwardAgent yes는 접속한 서버에서 내 로컬 agent를 빌려 쓰게 해 줍니다. 편리하지만, 그 서버의 root 권한을 가진 사람은 내가 접속해 있는 동안 내 키로 다른 서버에 접속할 수 있습니다. 점프 서버를 거칠 때는 forwarding 대신 4장의 ProxyJump를 씁니다.
파일 전송
같은 키와 설정이 scp, sftp, rsync에도 그대로 적용됩니다.
scp report.pdf user@server:/tmp/
rsync -avz ./site/ user@server:/var/www/site/
4. ~/.ssh/config로 여러 키·호스트 관리
자주 접속하는 서버는 ~/.ssh/config에 별칭으로 등록해 두면 ssh homeserver처럼 짧게 접속할 수 있습니다.
기본 구조
# ~/.ssh/config (권한 600)
Host homeserver
HostName 203.0.113.10
User arbji
Port 2222
IdentityFile ~/.ssh/id_ed25519_homeserver
IdentitiesOnly yes
Host github.com
User git
IdentityFile ~/.ssh/id_ed25519_github
IdentitiesOnly yes
# 모든 호스트 공통 설정은 맨 아래에
Host *
AddKeysToAgent yes
ServerAliveInterval 60
SSH는 위에서부터 읽으며 처음 정해진 값이 우선합니다. 그래서 구체적인 Host를 위에, Host *를 맨 아래에 둡니다. macOS는 Host *에 UseKeychain yes도 넣습니다.
주요 옵션
| 옵션 | 의미 |
|---|---|
Host |
별칭. ssh <별칭>으로 씁니다. * 같은 패턴도 가능합니다 |
HostName |
실제 주소(도메인 또는 IP) |
User |
접속 계정 |
Port |
포트 (기본 22) |
IdentityFile |
사용할 개인키 |
IdentitiesOnly yes |
지정한 키만 시도합니다. 키가 많을 때 “Too many authentication failures”를 막습니다 |
ProxyJump |
점프 서버를 거쳐 접속합니다 |
LocalForward |
로컬 포트를 서버 쪽 포트로 연결합니다(터널) |
ServerAliveInterval |
지정한 초마다 신호를 보내 유휴 연결 끊김을 막습니다 |
AddKeysToAgent yes |
처음 쓸 때 키를 agent에 자동 등록합니다 |
GitHub 계정을 여러 개 쓸 때
GitHub는 키로 계정을 구분하므로, 개인용과 회사용 계정에 각각 다른 키를 등록하고 별칭으로 나눕니다.
Host github-personal
HostName github.com
User git
IdentityFile ~/.ssh/id_ed25519_github_personal
IdentitiesOnly yes
Host github-work
HostName github.com
User git
IdentityFile ~/.ssh/id_ed25519_github_work
IdentitiesOnly yes
git clone git@github-work:company/repo.git
ssh -T git@github-personal # 계정별 인증 확인
점프 서버(Bastion)를 거쳐 접속
내부망 서버는 점프 서버를 거쳐야 하는 경우가 많습니다. ProxyJump는 개인키를 점프 서버에 두거나 agent를 넘기지 않고도 내 PC에서 직접 인증합니다.
Host bastion
HostName bastion.example.com
User arbji
Host internal-db
HostName 10.0.1.20
User arbji
ProxyJump bastion
일회성으로는 ssh -J bastion user@10.0.1.20으로도 됩니다.
known_hosts 관리
서버를 재설치하면 서버 키가 바뀌어 “REMOTE HOST IDENTIFICATION HAS CHANGED” 경고가 나옵니다. 서버를 바꾼 것이 확실할 때만 예전 기록을 지웁니다.
ssh-keygen -R server.example.com
ssh-keygen -R "[server.example.com]:2222" # 포트가 22가 아닌 경우
이유를 모르는데 이 경고가 나오면 중간자 공격일 수 있으므로 접속을 멈추고 확인합니다.
5. 보안 관리
키 접속이 확인되면 서버의 비밀번호 로그인을 끄고, 쓰지 않는 키는 바로 지웁니다.
서버 sshd 설정
/etc/ssh/sshd_config(또는 /etc/ssh/sshd_config.d/ 아래의 별도 파일)에 다음을 설정합니다.
PubkeyAuthentication yes
PasswordAuthentication no
KbdInteractiveAuthentication no
PermitRootLogin no # 또는 prohibit-password
적용 전에 반드시 문법을 검사하고, 기존 접속 창을 닫지 않은 채 새 창에서 키 접속이 되는지 확인합니다. 설정이 잘못되면 서버에서 완전히 잠길 수 있기 때문입니다.
sudo sshd -t # 문법 검사 (출력이 없으면 정상)
sudo systemctl reload ssh # Debian/Ubuntu (RHEL 계열은 sshd)
클라우드 이미지는 sshd_config.d/ 아래에 PasswordAuthentication yes가 따로 들어 있는 경우가 있습니다. sudo sshd -T | grep -i passwordauth로 실제 적용값을 확인합니다.
authorized_keys에서 키 용도 제한
백업·배포 스크립트처럼 passphrase 없이 쓰는 키는 공개키 줄 앞에 제한 옵션을 붙입니다.
from="203.0.113.0/24",command="/usr/local/bin/backup.sh",restrict ssh-ed25519 AAAAC3... backup@nas
| 옵션 | 효과 |
|---|---|
from="..." |
지정한 IP 대역에서만 이 키를 허용합니다 |
command="..." |
접속하면 이 명령만 실행되고 셸은 열리지 않습니다 |
restrict |
포트·agent·X11 포워딩과 터미널 할당을 모두 끕니다 |
expiry-time="YYYYMMDD" |
지정한 날짜 이후 키가 거부됩니다 |
키 교체와 폐기
기기를 잃어버렸거나, 퇴사자가 있거나, 개인키 유출이 의심될 때 다음 순서로 교체합니다.
- 새 키를 만듭니다 (1장).
- 새 공개키를 모든 서버와 서비스에 등록합니다 (2장).
- 새 키로 접속이 되는지 확인합니다.
- 각 서버의
authorized_keys에서 예전 키 줄을 지우고, GitHub·GitLab 설정에서도 삭제합니다. - 로컬의 예전 개인키를 지웁니다.
기기를 잃어버린 경우에는 순서를 바꿔 4번(예전 키 제거)부터 즉시 합니다. -C 주석에 기기 이름을 적어 두면 어느 줄을 지울지 바로 찾을 수 있습니다.
점검 체크리스트
- [ ] 모든 개인키에 passphrase가 있다 (자동화용은 용도 제한을 건다)
- [ ] 기기마다 키가 따로 있고, 주석으로 구분된다
- [ ] 서버의 비밀번호 로그인과 root 로그인이 꺼져 있다
- [ ]
authorized_keys와 GitHub에 더 이상 쓰지 않는 키가 없다 - [ ] DSA 키나 2048비트 미만 RSA 키가 남아 있지 않다
- [ ] Agent forwarding을 기본으로 켜 두지 않았다
부록: 문제 해결과 명령어 요약
접속이 안 될 때는 먼저 ssh -v user@server로 어느 키를 시도하고 어디서 거부되는지 확인합니다. 더 자세한 로그는 -vvv입니다.
자주 나오는 오류
| 증상 | 주된 원인 | 해결 |
|---|---|---|
Permission denied (publickey) |
공개키 미등록, 다른 계정에 등록, 다른 키를 제시 | ssh -v로 제시한 키 확인, 서버의 해당 계정 authorized_keys 확인 |
| 키를 등록했는데도 비밀번호를 물음 | 서버 쪽 ~/.ssh나 홈 디렉터리 권한이 너무 열려 있음 |
홈은 755 이하, ~/.ssh 700, authorized_keys 600. 서버 로그(journalctl -u ssh) 확인 |
UNPROTECTED PRIVATE KEY FILE |
로컬 개인키 권한이 너무 열려 있음 | chmod 600 ~/.ssh/id_ed25519 |
Too many authentication failures |
agent의 키를 하나씩 시도하다 횟수 초과 | config에 IdentityFile + IdentitiesOnly yes |
REMOTE HOST IDENTIFICATION HAS CHANGED |
서버 재설치 또는 중간자 공격 | 원인 확인 후 ssh-keygen -R <호스트> |
| 매번 passphrase를 물음 | agent에 키 미등록 | ssh-add, config에 AddKeysToAgent yes |
| GitHub push 때 아이디·비밀번호를 물음 | 저장소가 HTTPS 주소 | git remote set-url origin git@github.com:owner/repo.git |
| Windows에서 개인키 권한 오류 | 다른 사용자에게도 읽기 권한이 있음 | 파일 속성 → 보안에서 상속을 끄고 본인 계정만 남김 |
명령어 요약
| 작업 | 명령 |
|---|---|
| 키 생성 | ssh-keygen -t ed25519 -C "사용자@기기" |
| 지문 확인 | ssh-keygen -lf ~/.ssh/id_ed25519.pub |
| passphrase 변경 | ssh-keygen -p -f ~/.ssh/id_ed25519 |
| 공개키 재생성 | ssh-keygen -y -f ~/.ssh/id_ed25519 |
| 서버에 등록 | ssh-copy-id -i ~/.ssh/id_ed25519.pub user@server |
| GitHub 인증 확인 | ssh -T git@github.com |
| 키 지정 접속 | ssh -i ~/.ssh/<키> user@server |
| agent에 등록 | ssh-add ~/.ssh/id_ed25519 |
| agent 목록 | ssh-add -l |
| 점프 서버 경유 | ssh -J bastion user@internal |
| known_hosts 항목 삭제 | ssh-keygen -R <호스트> |
| 접속 디버깅 | ssh -v user@server |
| sshd 설정 검사 | sudo sshd -t |