Keihäänheitto on kuulunut olympialaisten ohjelmaan vuodesta 1908 lähtien, jolloin se otettiin mukaan Lontoon kisoihin, ja naisten kilpailu liittyi mukaan vuonna 1932 Los Angelesissa. Lajin menestynein maa miesten puolella on Suomi, jonka heittäjät ovat voittaneet peräti seitsemän olympiakultaa, kun taas naisten kilpailuissa Itä-Saksa on ollut vahvin. Kaikkien aikojen menestynein urheilija on Jan Železný, joka edusti Tšekkoslovakiaa ja myöhemmin Tšekkiä ja voitti kolme olympiakultaa. Olympiahistoriaan mahtuu myös erikoisia kilpailumuotoja: vuonna 1908 ratkaistiin mitalit vapaan tyylin keihäänheitossa, ja vuoden 1912 kisoissa oli molempien käsien keihäänheitto, jossa laskettiin yhteen molempien käsien parhaat tulokset. Vuoden 1912 molempien käsien kilpailussa suomalaiset ottivat historiallisen kolmoisvoiton, mikä korostaa Suomen vahvaa asemaa lajin alkuaikoina. Nämä erikoiset kilpailumuodot olivat kuitenkin vain kertaluontoisia, ja nykyään keihäänheitto kilpaillaan tutulla tyylillä.