Nelja aasta pärast kvalifitseeriti Heinz oma teise Luksemburgi meeskonnale, kui 23-aastane, 2004. aasta Ateena suveolümpiamängudel. Ta saavutas B-standardist sisenemise aja 26,41 (50 m vabas stiilis) ja 57,14 (100 m vabas stiilis) Euroopa pikakursuse kohtumisel Luksemburgis. 100 m vabas stiilis võitis Heinz Ungari võistleja Ágnes Mutina ja võttis viienda koha kolmandas etapis ja kolmekümne kuuenda üldjooksus 0,70 sekundi võrra, ajast 57,40. 50 m vabas stiilis
, Heinz puudutas Islandi Ragnheiður Ragnarsdóttirit viienda soojuse triumfiks ühe sajandiku võrra (0,01), purustades Luksemburgi rekordi 26,35 sekundis. Tema tormiline võit ei olnud piisav, et viia ta poolfinaali, sest Heinz oli hommikuse esialgsete võistluste käigus 75 ujuja seast kolmekümnes.