O PS3 só lê FAT32, que não suporta arquivos >4GB (comuns em MKV). O PS3 não roda MKV nativamente. Solução: converter para VOB (DVD-Video) dividindo em partes <4GB.
Alternativas modernas: Use HandBrake para converter para MP4 (H.264/AAC) compatível com PS3, ou use servidor de mídia (Plex, Universal Media Server) para streaming direto do PC sem limite de 4GB.