Las claves publicas que autorizas van en el archivo authorized_keys dentro de la carpeta .ssh del usuario.
Por cuestiones de seguridad el proceso es:
1 crear el par de llaves en el ordemador cliente
2 hacer un ssh al ordenador remoto
3 añadir el contenido de la clave publica id_rsa.pub en tu caso, al archivo .ssh/authorized_keys
4 verificar que el archivo authorized keys tiene permisos 600
La clave privada no deberia tocar terreno de servidor para que no existan copias fuera de control. Y en cuanto se detecte duplicidad eliminar la piblica correspondiente del authorized_keys.
Distinto cliente, distinta clave.
Tambien deberias deshabilitar la opcion de entrar por ssh mediante password
Un saludo
Hola!
Las claves ya están en el directorio authorized_keys con permisos 600

Lo que he hecho diferente ha sido:
1. He creado el par de llaves en el ordenador servidor y me he traido la privada al cliente. Debería funcionar, ¿no?
No entiendo lo de distinto cliente, distinta clave. ¿RSA no es un estándar? Si no, dependiendo del cliente que use voy a tener varias claves diferentes. No entiendo el por qué...
Muchas gracias por contestar!