Firma powstała w 1790 roku w Wiedniu. Jej założycielem był Joseph Hardtmuth. Ze względu na łatwiejszy dostęp do złóż grafitu oraz tańszą siłę roboczą została w 1848 roku przeniesiona do Czeskich Budziejowic.Początki firmy związane są z opracowanym przez Franza Hardmutha ołówkiem 1500, który początkowo był wytwarzany w siedemnastu, a później dwudziestu stopniach twardości. Został on uhonorowany złotym medalem na wystawie światowej w Paryżu w roku 1889. Jako pierwszy z produkowanych na świecie ołówków został polakierowany farbą w kolorze żółtym oraz oznaczony kombinacją liter i cyfr oznaczających stopień twardości. Oznaczanie stopnia twardości zostało opracowane przez właściciela firmy Franza Hardtmutha i obowiązuje po dzień dzisiejszy.Od roku 1894 diament stał się oficjalnym symbolem marki a firma zaczęła się posługiwać nazwą KOH-I-NOOR.Obecnym właścicielem skupiającym majątek Spółki i prawa do przedsięwzięć biznesowych jest Vlastislav Bříza.