Jeunes prévenus et jeunes condamnés, garçons et filles, pour certains en attente de transfert en colonies agricole, industrielle ou maritime, se retrouvent cloîtrés dans cette prison urbaine — d’abord située à la limite de Paris sur des terrains bordés de champs, la Petite Roquette se retrouve, à mesure que la capitale s’urbanise, en plein coeur de la ville.
Le régime de détention y est d’une extrême sévérité : les détenus, pour certains âgés de 5 ou 6 ans — il faudra attendre 1912 pour qu'un âge minimum de 13 ans soit imposé à l'enfermement — sont isolés en permanence.
Dès ses premières années d’existence, elle n’a pas bonne presse auprès des Parisiens.
En 1878, le reporter Félix Platel (bientôt célèbre pour ses reportages dans les bas-fonds de Paris), sous le pseudonyme Ignotus, s’indigne dans Le Figaro du sort de ces petits prisonniers :
« Voici le quartier des plus petits. Ceux-ci ne travaillent dans leur cellule à aucun métier — ils effilochent de la vieille grosse toile. Ils ont de cinq à huit ans. Les portes de leurs cellules, qui sont du même côté, sont toutes grandes ouvertes, sans qu'ils puissent se voir l'un l'autre. »
Le 28 février 1884, le même Félix Platel dénonce à nouveau violemment ce sinistre lieu :
« La Petite-Roquette, c'est la maison cruelle !
C'est là que, nuit et jour, l'État,de connivence avec la Loi, commet des crimes contre l'enfance. [...]
Je signale au visiteur l'air hébété des enfants et leur œil morne, sec, cerné de noir… Un adulte deviendrait fou après trois mois de cet isolement cellulaire.
Je ne sais pas de spectacle plus navrant que l'enfant faisant tout seul rouler en rond son cerceau dans le préau, sorte de puits. C'est l'unique récréation du petit être. »