Yo diría que sí. Los tetras de neón sólo llegan a tener una pulgada de largo (tal vez hasta una pulgada y media) cuando están completamente crecidos. Junto con sus contrapartes, los tetras cardenales, son probablemente una de las especies de peces más pequeñas que puedes tener como mascota.
Mientras el tanque no tenga una forma extraña a donde es alto y delgado, lo que limitaría el espacio de natación en su interior, diría que podrías caber en cualquier lugar entre 4-6 neones allí. No guardaría menos de tres porque son un cardumen y les estresaría estar solos o en pareja, y si hay más de seis, es mejor comprar un tanque más grande para ahorrarse la molestia de mantener el agua limpia.
Tener menos peces en el tanque te da una mayor zona de amortiguación en el tanque pequeño, para evitar el riesgo de que los residuos causen un pico de amoníaco y maten a los peces. La desventaja es que los neones son un cardumen, así que cuanto más haya, más cómodos se sentirán nadando al aire libre.
Por otro lado, tener más peces en el tanque te da más para mirar, y le da a los peces la comodidad de estar en un grupo más grande, pero tienes un amortiguador más pequeño en caso de que algo cambie con el agua. Principalmente significa que tendrás que ser más proactivo en mantener el agua limpia, realizando cambios de agua más frecuentes.
Algunas notas:
Asumo que los neones son los únicos peces en el tanque. Incluso con sólo 3-4 neones no añadiría ningún otro pez al tanque.
Me aseguraría de que cualquier decoración no ocupe mucho espacio. Tengan en cuenta que es un tanque de 5 galones antes de agregar el sustrato y las decoraciones, agregar un gran castillo o volcán desplazará el agua del tanque.