1821-ben a Spanyolországtól függetlenedő Mexikó része lett egészen 1848. május 19-ig, amikor az mexikói–amerikai háború után Kaliforniával együtt az USA fennhatósága alá került. Kalifornia már 1850-ben állami rangot kapott, és az aranyláz hozta gazdagság növekedésével szükségessé vált az amerikai jelenlét biztosítása.

Az Alcatraz-sziget kitűnő lehetőséget nyújtott egy erőd építésére, az öböl védelme érdekében. Az Alcatrazi Világítótornyot 1853-ban adták át, amellyel a legöregebb világítótorony az Egyesült Államok Csendes-óceáni partvidékén. 1906-os földrengésben súlyosan megrongálódott épületet 1909-ben lerombolták, és az eredeti helyétől délebbre egy magasabb, 25 méteres tornyot építettek fel, hogy ezzel helyet adjanak a kiépülő börtönnek. Az új, 1909. december 1-jén átadott épületben egészen 1963-ig voltak lámpaőrök, az automata berendezés felszereléséig. Az amerikai polgárháborúban harci eseményekben nem vett részt, habár további megerősítéseket is kiviteleztek (például: 1864-ben állították fel a 15 inches Rodman ágyúkat). Kaliforniában mind az unionistáknak, mind a konföderalistáknak voltak támogatói, de az erőd vezetése, mint az állam nagy része is, az északiakhoz húzott. Így a részvétele arra korlátozódott, hogy elfogott déli szimpatizánsokat és hadifoglyokat tartottak benne fogva. Felismerve, hogy elzártsága miatt szinte lehetetlen innen a szökés, több más erődítményből is ide szállították a rabokat, majd 1861-től hivatalosan is a csendes-óceáni hadosztály katonai börtöne lett.

Az 1929-es világválság bűnözési hullámot indított el országszerte, aminek megállítása érdekében a kormányzat jelentős erőket mozgósított. Szükség volt egy új börtönre, ahova a legveszélyesebb elkövetőket gyűjthetik. Elvárás volt, hogy kellő megfélemlítő és elrettentő erővel, valamint a szökés gondolatát is teljesen értelmetlenné tevő biztonsági rendszerrel rendelkezzen. Habár szó volt egy alaszkai helyszínről is, végül Alcatrazra esett a választás. Ide azokat a bűnözőket hozták, akikkel más intézményekben már probléma volt, egy bíró sem küldhette őket közvetlenül ide. Emiatt emlegették úgy is, mint „börtön a börtönben”. „A Szikla” legendájának kialakulásában nem kis szerepe volt az itt fogva tartott híres vagy éppen hírhedt bűnözőknek. A legismertebb közülük vitathatatlanul Al Capone volt, akit 1934-ben szállítottak át ide atlantai börtönéből. Többször összetűzésbe került James Lucas-szal, egy texasi bankrablóval, aki egyszer hátba is szúrta. Az egyik börtönsztrájkban nem vett részt, emiatt társai kiközösítették. 1939 novemberében helyezték szabadlábra meggyengült egészsége miatt. Robert Stroud „Alcatraz madarásza”-ként lett ismert. Erőszakos természete miatt több börtönt is végigjárt, még halálbüntetésre is ítélték, amit 1920-ban Thomas Woodrow Wilson elnök életfogytiglani szabadságvesztésre mérsékelt. Már azelőtt írt két könyvet a kanárikról és betegségeikről, mielőtt az Alcatrazba szállították. Az őrök azért engedélyezték számára a madarak tartását, mert javulást reméltek tőle a súlyosan antiszociális Stroud állapotában. Ő kihasználva a helyzetet, sokszor rejtett el nem engedélyezett tárgyakat a madarai ketrecében. A tudományos kísérleteihez igényelt anyagokból pedig házi főzésű szeszeket állított elő. 1942-ben kezdte meg 17 éves Alcatrazi tartózkodását, amelyből 6 évet a „D” blokkban, 11-et a börtönkórházban töltött.

1963. november 21-én halt meg a Missouri állambeli Springfield Szövetségi Börtönkórházában, ahova 1959-ben utalták. Az intézmény bezárását Robert Kennedy főügyész rendelte el 1963-ban, amelyet a magas fenntartási és üzemeltetési költségekkel indokolt. (Alcatrazban 10 dollár volt egy elítélt napi költsége, míg Atlantában 3 dollár). A döntésében szerepet játszott az is, hogy a létesítmény elavult, a várható felújítási költségek helyett jobban megérte egy újabb börtönt felépíteni. 1963. március 23-án hagyták el az utolsó rabok a szigetet. Helyét az Illinois állambeli Marionban újonnan épített maximális biztonságú börtön vette át.