| |

ssh 사용법 정리

SSH 키 사용법 정리

Nov 16, 2026 · @SLee

개요

SSH 키 인증은 ed25519 키를 기기마다 하나씩 만들고, 공개키만 서버에 등록한 뒤, 서버의 비밀번호 로그인을 막는 순서로 쓰면 됩니다.

SSH 키는 한 쌍으로 이루어집니다.

  • 개인키(private key): 내 컴퓨터에만 둡니다. 절대 외부로 보내거나 공유하지 않습니다.
  • 공개키(public key): 접속하려는 서버나 GitHub 같은 서비스에 등록합니다. 노출되어도 문제가 없습니다.

접속할 때 서버는 공개키로 “이 개인키를 가진 사람이 맞는지”를 확인합니다. 개인키와 비밀번호가 네트워크로 오가지 않으므로 비밀번호 방식보다 안전하고 편리합니다.

이 문서는 다음 순서로 구성되어 있습니다.

  1. 키 생성
  2. 공개키 등록
  3. 접속과 ssh-agent
  4. ~/.ssh/config로 여러 키·호스트 관리
  5. 보안 관리
  6. 부록: 문제 해결과 명령어 요약

1. SSH 키 생성

특별한 이유가 없으면 ssh-keygen -t ed25519로 만들고 passphrase를 설정합니다.

알고리즘 선택

알고리즘 권장 여부 비고
ed25519 기본 권장 키가 짧고 빠르며 안전합니다
ed25519-sk 고급 권장 YubiKey 같은 하드웨어 보안키에 개인키를 묶어 둡니다
RSA 4096 호환용 아주 오래된 서버나 장비에 접속할 때만 씁니다
ECDSA 비권장 특별한 이유가 없으면 ed25519가 낫습니다
DSA 사용 금지 최신 OpenSSH에서 비활성화되어 있습니다

생성 명령

ssh-keygen -t ed25519 -C "arbji@laptop-2026" -f ~/.ssh/id_ed25519
옵션 의미
-t 키 종류 (ed25519, rsa 등)
-C 주석. “누가, 어느 기기에서” 만든 키인지 적어 두면 관리가 편합니다
-f 저장할 파일 경로
-b 키 길이. RSA에만 의미가 있습니다 (예: -b 4096)
-a passphrase 보호용 KDF 반복 횟수 (기본 16, 높을수록 무차별 대입에 강합니다)

RSA가 꼭 필요할 때는 다음과 같이 만듭니다.

ssh-keygen -t rsa -b 4096 -C "arbji@legacy" -f ~/.ssh/id_rsa_legacy

Passphrase

passphrase는 개인키 파일 자체를 암호화하는 비밀번호입니다. 노트북을 잃거나 파일이 유출되어도 바로 쓰이지 못하게 막아 줍니다.

  • 비워 두면 파일만 손에 넣은 사람도 그 키로 접속할 수 있습니다.
  • 매번 입력하는 불편함은 ssh-agent(3장)로 해결합니다.
  • 자동화 스크립트용처럼 부득이하게 비워야 하는 키는 용도를 좁게 제한합니다(5장).

생성 결과와 파일 권한

~/.ssh/
├── id_ed25519        ← 개인키 (절대 공유 금지)
└── id_ed25519.pub    ← 공개키 (서버·서비스에 등록)

공개키는 ssh-ed25519 AAAAC3NzaC1lZDI1NTE5AAAAI... arbji@laptop-2026 형태의 한 줄입니다.

파일 이름 id_의 의미. id는 identity(나를 증명하는 키)의 줄임말이며, OpenSSH가 정한 기본 파일 이름입니다. SSH 프로토콜 1 시절에는 개인키 파일 이름이 ~/.ssh/identity였고, 키 종류가 늘면서 id_<종류> 형태가 되었습니다. config 옵션 이름이 IdentityFile인 것도 같은 이유입니다.

키 종류 기본 파일 이름
ed25519 id_ed25519
RSA id_rsa
ECDSA id_ecdsa
하드웨어 보안키 id_ed25519_sk, id_ecdsa_sk

SSH 클라이언트는 이 기본 이름의 키를 자동으로 찾아 시도하므로, 키가 하나라면 기본 이름이 가장 편합니다. 다른 이름을 써도 되지만, 그때는 ssh -i로 지정하거나 ~/.ssh/config의 IdentityFile에 적어야 합니다. id_ed25519_github처럼 기본 이름 뒤에 용도를 붙이는 것은 종류와 용도가 한눈에 보이게 하는 관례이며, 규칙은 아닙니다.

Linux/macOS에서는 권한이 너무 열려 있으면 SSH가 키 사용을 거부합니다.

chmod 700 ~/.ssh
chmod 600 ~/.ssh/id_ed25519
chmod 644 ~/.ssh/id_ed25519.pub

Windows

Windows 10/11에는 OpenSSH가 기본으로 들어 있어 PowerShell에서 같은 명령을 씁니다. 저장 위치는 C:\Users\<사용자명>\.ssh\입니다.

ssh-keygen -t ed25519 -C "arbji@windows-pc"

생성 후 관리 명령

# 지문(fingerprint) 확인: 서버에 등록된 키와 대조할 때
ssh-keygen -lf ~/.ssh/id_ed25519.pub

# passphrase 변경·추가 (키 자체는 그대로)
ssh-keygen -p -f ~/.ssh/id_ed25519

# 공개키를 잃었을 때 개인키에서 다시 만들기
ssh-keygen -y -f ~/.ssh/id_ed25519 > ~/.ssh/id_ed25519.pub

실무 원칙

  • 기기마다 키를 따로 만듭니다. 같은 개인키를 여러 컴퓨터에 복사하면, 한 대를 잃었을 때 등록한 모든 곳을 정리해야 합니다.
  • 용도별로 나눌 수도 있습니다 (예: id_ed25519_github, id_ed25519_homeserver). 이 경우 4장의 config 설정이 필요합니다.
  • 개인키는 백업하기보다 잃으면 새로 만들고 다시 등록하는 것이 일반적입니다.

2. 공개키 등록

서버에는 ssh-copy-id로, GitHub·GitLab에는 웹 설정 화면에 .pub 파일 내용을 붙여 넣어 등록합니다.

서버의 authorized_keys

서버는 접속하려는 계정의 ~/.ssh/authorized_keys 파일에 들어 있는 공개키만 허용합니다. 한 줄에 키 하나씩 들어갑니다. 예를 들어 deploy 계정으로 들어가려면 /home/deploy/.ssh/authorized_keys에 등록해야 합니다.

방법 1: ssh-copy-id (권장)

아직 비밀번호로 접속할 수 있을 때 가장 간단한 방법입니다. 디렉터리 생성과 권한 설정까지 알아서 처리합니다.

ssh-copy-id -i ~/.ssh/id_ed25519.pub user@server.example.com

# 포트가 22가 아닌 경우
ssh-copy-id -i ~/.ssh/id_ed25519.pub -p 2222 user@server.example.com

방법 2: 한 줄 명령 (ssh-copy-id가 없을 때)

Windows PowerShell에는 ssh-copy-id가 없으므로 다음처럼 보냅니다.

# Linux/macOS
cat ~/.ssh/id_ed25519.pub | ssh user@server "mkdir -p ~/.ssh && chmod 700 ~/.ssh && cat >> ~/.ssh/authorized_keys && chmod 600 ~/.ssh/authorized_keys"
# Windows PowerShell
type $env:USERPROFILE\.ssh\id_ed25519.pub | ssh user@server "mkdir -p ~/.ssh && chmod 700 ~/.ssh && cat >> ~/.ssh/authorized_keys && chmod 600 ~/.ssh/authorized_keys"

방법 3: 수동 등록

클라우드 콘솔이나 다른 관리자를 통해 등록할 때는 공개키 한 줄을 그대로 전달합니다.

cat ~/.ssh/id_ed25519.pub        # 출력된 한 줄을 복사

서버에서는 그 줄을 ~/.ssh/authorized_keys 끝에 붙이고 권한을 맞춥니다. 줄바꿈이 끼어들거나 일부가 잘리면 인증이 실패합니다.

chmod 700 ~/.ssh
chmod 600 ~/.ssh/authorized_keys

AWS EC2, GCP 등 클라우드는 인스턴스를 만들 때 콘솔에서 공개키를 지정하면 이 파일에 자동으로 들어갑니다.

GitHub · GitLab

  1. 공개키 내용을 복사합니다. macOS는 pbcopy < ~/.ssh/id_ed25519.pub, Windows는 Get-Content ~/.ssh/id_ed25519.pub | Set-Clipboard로 클립보드에 바로 넣을 수 있습니다.
  2. GitHub: Settings → SSH and GPG keys → New SSH key에 붙여 넣습니다. Key type은 Authentication Key를 고릅니다.
  3. GitLab: Preferences → SSH Keys에 붙여 넣고 만료일을 지정할 수 있습니다.
  4. Title에는 기기 이름을 적어 두어 나중에 어느 키를 지울지 알 수 있게 합니다.

등록 후 확인합니다.

ssh -T git@github.com
# Hi <사용자명>! You've successfully authenticated ... 가 나오면 성공

저장소는 HTTPS가 아닌 SSH 주소로 클론해야 키가 쓰입니다.

git clone git@github.com:owner/repo.git

# 이미 HTTPS로 클론한 저장소를 SSH로 바꾸기
git remote set-url origin git@github.com:owner/repo.git

저장소 하나에만 접근하는 서버용 키는 계정 전체 키 대신 저장소의 Deploy key(저장소 Settings → Deploy keys)로 등록하는 편이 안전합니다.

3. 접속과 ssh-agent

기본 이름(id_ed25519 등)의 키는 자동으로 쓰이고, passphrase는 ssh-agent에 한 번 등록해 두면 다시 묻지 않습니다.

기본 접속

ssh user@server.example.com
ssh -p 2222 user@server.example.com          # 포트 지정
ssh -i ~/.ssh/id_ed25519_homeserver user@server   # 키 지정

SSH는 ~/.ssh/id_ed25519, ~/.ssh/id_rsa 등 기본 이름의 키를 자동으로 시도합니다. 다른 이름으로 만든 키는 -i로 지정하거나 4장의 config에 적어 둡니다.

첫 접속 시 호스트 확인

처음 접속하면 “The authenticity of host … can’t be established” 메시지와 서버 지문이 나옵니다. yes를 입력하면 ~/.ssh/known_hosts에 저장되고, 다음부터는 서버가 바뀌었는지 자동으로 확인합니다. 중요한 서버라면 관리자에게 받은 지문과 대조한 뒤 수락합니다.

ssh-agent의 역할

ssh-agent는 passphrase를 한 번 풀어 둔 개인키를 메모리에 들고 있는 프로그램입니다. 세션 동안에는 접속할 때마다 passphrase를 다시 입력하지 않아도 됩니다.

eval "$(ssh-agent -s)"           # agent 시작 (대부분의 데스크톱 환경은 이미 실행 중)
ssh-add ~/.ssh/id_ed25519       # 키 등록 (passphrase 한 번 입력)
ssh-add -l                      # 등록된 키 목록
ssh-add -t 4h ~/.ssh/id_ed25519 # 4시간 뒤 자동 제거
ssh-add -D                      # 모든 키 제거

운영체제별 설정

환경 설정 방법
macOS ssh-add --apple-use-keychain ~/.ssh/id_ed25519로 키체인에 passphrase를 저장하고, config에 UseKeychain yes, AddKeysToAgent yes를 넣습니다
Windows 관리자 PowerShell에서 Get-Service ssh-agent | Set-Service -StartupType Automatic 후 Start-Service ssh-agent, 그다음 ssh-add
Linux 데스크톱 GNOME Keyring 등이 agent 역할을 하는 경우가 많습니다. config에 AddKeysToAgent yes를 넣으면 첫 사용 때 자동 등록됩니다

Agent forwarding 주의

ssh -A나 ForwardAgent yes는 접속한 서버에서 내 로컬 agent를 빌려 쓰게 해 줍니다. 편리하지만, 그 서버의 root 권한을 가진 사람은 내가 접속해 있는 동안 내 키로 다른 서버에 접속할 수 있습니다. 점프 서버를 거칠 때는 forwarding 대신 4장의 ProxyJump를 씁니다.

파일 전송

같은 키와 설정이 scp, sftp, rsync에도 그대로 적용됩니다.

scp report.pdf user@server:/tmp/
rsync -avz ./site/ user@server:/var/www/site/

4. ~/.ssh/config로 여러 키·호스트 관리

자주 접속하는 서버는 ~/.ssh/config에 별칭으로 등록해 두면 ssh homeserver처럼 짧게 접속할 수 있습니다.

기본 구조

# ~/.ssh/config  (권한 600)

Host homeserver
    HostName 203.0.113.10
    User arbji
    Port 2222
    IdentityFile ~/.ssh/id_ed25519_homeserver
    IdentitiesOnly yes

Host github.com
    User git
    IdentityFile ~/.ssh/id_ed25519_github
    IdentitiesOnly yes

# 모든 호스트 공통 설정은 맨 아래에
Host *
    AddKeysToAgent yes
    ServerAliveInterval 60

SSH는 위에서부터 읽으며 처음 정해진 값이 우선합니다. 그래서 구체적인 Host를 위에, Host *를 맨 아래에 둡니다. macOS는 Host *에 UseKeychain yes도 넣습니다.

주요 옵션

옵션 의미
Host 별칭. ssh <별칭>으로 씁니다. * 같은 패턴도 가능합니다
HostName 실제 주소(도메인 또는 IP)
User 접속 계정
Port 포트 (기본 22)
IdentityFile 사용할 개인키
IdentitiesOnly yes 지정한 키만 시도합니다. 키가 많을 때 “Too many authentication failures”를 막습니다
ProxyJump 점프 서버를 거쳐 접속합니다
LocalForward 로컬 포트를 서버 쪽 포트로 연결합니다(터널)
ServerAliveInterval 지정한 초마다 신호를 보내 유휴 연결 끊김을 막습니다
AddKeysToAgent yes 처음 쓸 때 키를 agent에 자동 등록합니다

GitHub 계정을 여러 개 쓸 때

GitHub는 키로 계정을 구분하므로, 개인용과 회사용 계정에 각각 다른 키를 등록하고 별칭으로 나눕니다.

Host github-personal
    HostName github.com
    User git
    IdentityFile ~/.ssh/id_ed25519_github_personal
    IdentitiesOnly yes

Host github-work
    HostName github.com
    User git
    IdentityFile ~/.ssh/id_ed25519_github_work
    IdentitiesOnly yes
git clone git@github-work:company/repo.git
ssh -T git@github-personal   # 계정별 인증 확인

점프 서버(Bastion)를 거쳐 접속

내부망 서버는 점프 서버를 거쳐야 하는 경우가 많습니다. ProxyJump는 개인키를 점프 서버에 두거나 agent를 넘기지 않고도 내 PC에서 직접 인증합니다.

Host bastion
    HostName bastion.example.com
    User arbji

Host internal-db
    HostName 10.0.1.20
    User arbji
    ProxyJump bastion

일회성으로는 ssh -J bastion user@10.0.1.20으로도 됩니다.

known_hosts 관리

서버를 재설치하면 서버 키가 바뀌어 “REMOTE HOST IDENTIFICATION HAS CHANGED” 경고가 나옵니다. 서버를 바꾼 것이 확실할 때만 예전 기록을 지웁니다.

ssh-keygen -R server.example.com
ssh-keygen -R "[server.example.com]:2222"   # 포트가 22가 아닌 경우

이유를 모르는데 이 경고가 나오면 중간자 공격일 수 있으므로 접속을 멈추고 확인합니다.

5. 보안 관리

키 접속이 확인되면 서버의 비밀번호 로그인을 끄고, 쓰지 않는 키는 바로 지웁니다.

서버 sshd 설정

/etc/ssh/sshd_config(또는 /etc/ssh/sshd_config.d/ 아래의 별도 파일)에 다음을 설정합니다.

PubkeyAuthentication yes
PasswordAuthentication no
KbdInteractiveAuthentication no
PermitRootLogin no              # 또는 prohibit-password

적용 전에 반드시 문법을 검사하고, 기존 접속 창을 닫지 않은 채 새 창에서 키 접속이 되는지 확인합니다. 설정이 잘못되면 서버에서 완전히 잠길 수 있기 때문입니다.

sudo sshd -t                     # 문법 검사 (출력이 없으면 정상)
sudo systemctl reload ssh        # Debian/Ubuntu (RHEL 계열은 sshd)

클라우드 이미지는 sshd_config.d/ 아래에 PasswordAuthentication yes가 따로 들어 있는 경우가 있습니다. sudo sshd -T | grep -i passwordauth로 실제 적용값을 확인합니다.

authorized_keys에서 키 용도 제한

백업·배포 스크립트처럼 passphrase 없이 쓰는 키는 공개키 줄 앞에 제한 옵션을 붙입니다.

from="203.0.113.0/24",command="/usr/local/bin/backup.sh",restrict ssh-ed25519 AAAAC3... backup@nas
옵션 효과
from="..." 지정한 IP 대역에서만 이 키를 허용합니다
command="..." 접속하면 이 명령만 실행되고 셸은 열리지 않습니다
restrict 포트·agent·X11 포워딩과 터미널 할당을 모두 끕니다
expiry-time="YYYYMMDD" 지정한 날짜 이후 키가 거부됩니다

키 교체와 폐기

기기를 잃어버렸거나, 퇴사자가 있거나, 개인키 유출이 의심될 때 다음 순서로 교체합니다.

  1. 새 키를 만듭니다 (1장).
  2. 새 공개키를 모든 서버와 서비스에 등록합니다 (2장).
  3. 새 키로 접속이 되는지 확인합니다.
  4. 각 서버의 authorized_keys에서 예전 키 줄을 지우고, GitHub·GitLab 설정에서도 삭제합니다.
  5. 로컬의 예전 개인키를 지웁니다.

기기를 잃어버린 경우에는 순서를 바꿔 4번(예전 키 제거)부터 즉시 합니다. -C 주석에 기기 이름을 적어 두면 어느 줄을 지울지 바로 찾을 수 있습니다.

점검 체크리스트

  • [ ] 모든 개인키에 passphrase가 있다 (자동화용은 용도 제한을 건다)
  • [ ] 기기마다 키가 따로 있고, 주석으로 구분된다
  • [ ] 서버의 비밀번호 로그인과 root 로그인이 꺼져 있다
  • [ ] authorized_keys와 GitHub에 더 이상 쓰지 않는 키가 없다
  • [ ] DSA 키나 2048비트 미만 RSA 키가 남아 있지 않다
  • [ ] Agent forwarding을 기본으로 켜 두지 않았다

부록: 문제 해결과 명령어 요약

접속이 안 될 때는 먼저 ssh -v user@server로 어느 키를 시도하고 어디서 거부되는지 확인합니다. 더 자세한 로그는 -vvv입니다.

자주 나오는 오류

증상 주된 원인 해결
Permission denied (publickey) 공개키 미등록, 다른 계정에 등록, 다른 키를 제시 ssh -v로 제시한 키 확인, 서버의 해당 계정 authorized_keys 확인
키를 등록했는데도 비밀번호를 물음 서버 쪽 ~/.ssh나 홈 디렉터리 권한이 너무 열려 있음 홈은 755 이하, ~/.ssh 700, authorized_keys 600. 서버 로그(journalctl -u ssh) 확인
UNPROTECTED PRIVATE KEY FILE 로컬 개인키 권한이 너무 열려 있음 chmod 600 ~/.ssh/id_ed25519
Too many authentication failures agent의 키를 하나씩 시도하다 횟수 초과 config에 IdentityFile + IdentitiesOnly yes
REMOTE HOST IDENTIFICATION HAS CHANGED 서버 재설치 또는 중간자 공격 원인 확인 후 ssh-keygen -R <호스트>
매번 passphrase를 물음 agent에 키 미등록 ssh-add, config에 AddKeysToAgent yes
GitHub push 때 아이디·비밀번호를 물음 저장소가 HTTPS 주소 git remote set-url origin git@github.com:owner/repo.git
Windows에서 개인키 권한 오류 다른 사용자에게도 읽기 권한이 있음 파일 속성 → 보안에서 상속을 끄고 본인 계정만 남김

명령어 요약

작업 명령
키 생성 ssh-keygen -t ed25519 -C "사용자@기기"
지문 확인 ssh-keygen -lf ~/.ssh/id_ed25519.pub
passphrase 변경 ssh-keygen -p -f ~/.ssh/id_ed25519
공개키 재생성 ssh-keygen -y -f ~/.ssh/id_ed25519
서버에 등록 ssh-copy-id -i ~/.ssh/id_ed25519.pub user@server
GitHub 인증 확인 ssh -T git@github.com
키 지정 접속 ssh -i ~/.ssh/<키> user@server
agent에 등록 ssh-add ~/.ssh/id_ed25519
agent 목록 ssh-add -l
점프 서버 경유 ssh -J bastion user@internal
known_hosts 항목 삭제 ssh-keygen -R <호스트>
접속 디버깅 ssh -v user@server
sshd 설정 검사 sudo sshd -t

Similar Posts

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.