Sám tak trochu programuju a když mám za úkol vylepšit nějaký stávající rozsáhlý systém, tak si uvědomuju, že lidské programování vždycky bude plné chyb, protože naše mysl/fantazie/představivost nedokáže domyslet a pojmout všechny důsledky všech naprogramovaných konstrukcí.Občas se tedy stane, že někdo něco vylepší, ale pak se ukáže, že to má negativní důsledek na opačném konci systému. Nikdo totiž přesně neví, co ten program vlastně dělá. Programátoři se na projektech mění a když původní autoři odejdou, tak nováčci někdy i několik let stráví tím, aby kód pochopili a byli schopní v něm dělat odborné zásahy.Ano, jsou tu testy, které si programátor naprogramuje a oni pak už na vždy stále dokola testují, jestli se odstraněná chyba opět neobjevila, ale zas to závisí na člověku.Pro mě je program něco jako obrovský zámek plný místností, nábytku, nástrah a překážek a programátor se v něm pohybuje se slepeckou holí po tmě. Nejdřív musí několikrát celý hrad projít a osahat si ho, domyslet si, která chodba ho kam dovedla, ve které místnosti co je a kde jsou tajné chodby. A zapamatovat si to. Musí si v hlavě vyrobit 3D plán celé budovy a až pak je schopen jít a v té tmě něco udělat. To je na tom to nejnáročnější. Někdy je problém najít i vchod do toho hradu, natož pak řešit, že někde teče kanalizace a nikdo neví odkud a proč.Výhodu má třeba automechanik, nebo hodinář, který prostě věc rozebere a na první pohled vidí, kde je závada. Maximálně zkusmo pár dílů vymění a na něco přijde. Programátor to dělá poslepu a nemá možnost si něco prohlédnout. Musí hledat jako detektiv.Proto jsem já osobně k automatickému řízení zatím skeptický. Lidstvo musí najít nějaký zlatý grál a ovládnout umělou inteligenci tak, aby se programovala sama. Pak může být bezchybná.
