Si tenés mucha experiencia previa con conexiones de alto rendimiento creo que DtxdF te indicó en el camino correcto. Solo agregaría que miraras named pipes y unix domain sockets. Lamentablemente no tengo mucha experiencia en el campo por lo que no te puedo recomendar ninguna lectura.
Por el otro lado, si no tenés tanta experiencia en el tema, te recomendaría que juegues con los paquetes .net y .nio de Java. Ambos paquetes te proveen con un montón de herramientas para implementar tus propios sockets sobre TCP y están excelentemente documentados.
Cualquiera sea tu caso te deseo mucha suerte con este proyecto.
Por el otro lado, si no tenés tanta experiencia en el tema, te recomendaría que juegues con los paquetes .net y .nio de Java. Ambos paquetes te proveen con un montón de herramientas para implementar tus propios sockets sobre TCP y están excelentemente documentados.
Cualquiera sea tu caso te deseo mucha suerte con este proyecto.