V roku 1858 sa totiž podľa rakúskeho vzoru a na počesť rodinného jubilea príslušníka habsburskej dynastie v Košiciach zriadila štátna reálka s nemeckou vyučovacou rečou a s poslaním vychovávať strednú technickú inteligenicu pre rozvíjajúci sa priemysel a obchod. V roku 1878 sa šesťtriedna reálka prebudovala na osemtriednu školu s maturitou. Škola mala od začiatku problémy s priestormi, zápasila s nedostatkom učební a po dlhých rokovaniach napokon Košice uzavreli zmluvu (19.10.1879), podľa ktorej mesto zrekonštruuje, resp. prebuduje bývalý mestský pivovar pre potreby školy. Schvaľovanie plánov budovy a zadanie stavby sa pretiahlo až do mája 1881, ale už nový školský rok 1882/83 mohol byť slávnostne otvorený v novej, na vtedajšie pomery veľmi vyhovujúcej a dobre zariadenej budove. V týchto rokoch mala škola okolo 300 žiakov.
Reálka pôsobila v budove aj po páde Rakúsko-uhorskej monarchie a po vytvorení ČSR až do roku 1938. Veľmi smutným dňom pre študentov i profesorov školy bol 2. november 1938, keď po mníchovskom diktáte, na základe viedenskej arbitráže Košice pripadli Maďarsku a reálka sa musela presídliť do Bardejova. Namiesto reálky bolo v budove zriadené Uhorské kráľovské štátne gymnázium s vyučovacou rečou slovenskou. Po obnovení ČSR začalo v budove svoju činnosť II. štátne gymnázium. Tu už pôsobili profesori, ktorých mená sú spojené s históriou súčasného gymnázia: Dr. J. Miko, M. Milanová.
Do roku 1967 sídlila v budove Stredná priemyselná škola stavebná a na prízemí odborné učilište. V školskom roku 1966/67 zaniká Stredná škola pre pracujúcich a vznikla Stredná všeobecno-vzdelávacia škola, predchodca dnešného gymnázia. Jeden školský rok sídlila v budove na Revolučnej ulici. SVš mala 8 tried. Do tried 1. ročníka boli prijatí noví žiaci a do tried 2. ročníka boli pridelení žiaci zo SVŠ Šrobárova a zo SVŠ Kováčska.
Po roku (už v školskom roku 1967/68) sa mladá škola premiestnila do budovy na Šmeralovej ulici 9. Prvým riaditeľom školy bol PhDr. Juraj Miko, zástupkyňou riaditeľa Ema Sárazová. Profesorský zbor bol pomerne mladý a celý prešiel zo spomínanej večernej školy pre pracujúcich. Spočiatku škola prijímala žiakov rôznej vedomostnej úrovne. Postupne sa však dostávala do povedomia verejnosti dobrou prípravou študentov na štúdium na vysokých školách. Aj výber žiakov sa sprísňoval, a tak škola začala nadobúdať úroveň iných škôl. V ďalších rokoch sa dobrá zvesť o škole šírila veľmi rýchlo. V roku 1974 boli zriadené triedy s rozšíreným vyučovaním matematiky. Tak aj veľa dobrých žiakov začalo študovať na našej škole. Výborná úroveň ich vedomostí presiahla hranice mesta i kraja. Naši absolventi reprezentovali školu najmä v matematických a fyzikálnych olympiádach. Niektorí z nich prezentovali svoje vedomosti i na medzinárodných matematických olympiádach /v New Yorku, Paríži, Londýne, Varšave a pod./ a treba povedať, že úspešne.
V súčasnosti má škola 17 tried. Po štyri v každom ročníku, okrem prvého, v ktorom je v školskom roku 1996/97 päť tried. Škola má v každom ročníku po jednej triede so zameraním na matematiku a po jednej triede so zameraním na anglický jazyk. Študenti nášho gymnázia si môžu vybrať z anglického, nemeckého a francúzskeho jazyka.
Dnes (i po rokoch) môžeme konštatovať, že intelekt našich žiakov bol vysoký. Potvrdzuje to ich úspešnosť pri prijímaní na vysoké školy, pri štúdiu na nich a prirodzene ich aktivita už počas stredoškolského štúdia. Istotne by bola veľmi zaujímavá štatistika o našich absolventoch (keby sa na takú mravčiu prácu niekto podujal) zistili by sme, koľko inžinierov, koľko učiteľov, lekárov, politikov, umelcov, prekladateľov atď. má svoje korene na Poštovej alias "Šmeralke".