Los programas no tienen conciencia, porque son energía...
Los programas no tienen consciencia por un motivo bastante diferente que lo que dices.

Por de pronto, no tenemos una modelación matemática de la "consciencia de si".
Ni siquiera tenemos una definición coloquial.
Difícilmente, entonces, alguien podría escribir un programa cuyo efecto sobre sí mismo fuese alguna "cosa o evolución o desarrllo" de algo que apenas le hemos puesto un nombre.

Ignoro si es que es posible dicha definición o modelación.
Pero, en el momento, de ser viable, en que hayamos quebrado dicha barrera de conocimiento, no me cabe duda de que los programas sí podrán ser conscientes.