Читал у Лема:

Человек придумал "усилители" собственных функций: Щипцы, лопата, бинокль и т.п.
ИИ должен стать "усилителем" мыслительной функции.

Идея хорошая, но даже не указывает путь, по которому идти.

Не обязательно ИИ должен сам придумывать алгоритмы, достаточно отрабатывать существующие.
Вот скажем нужно смоделировать некоторый процесс.
Вы недостаточно умны или вам просто лень чтоб самому постичь результат.
Поэтому вы создаёте компьютерную модель (или много разных) и запускаете на обсчёт.
Как результат, получаете готовое решение проблемы без особых умственных затрат.

Но конечно "идеальный" ИИ должен уметь это делать сам, без моделирования.
Вот скажем Ньютон проводил опыты и из них вывел свои законы.
Для ИИ нет нужды проводить эксперименты, оно должно само делать выводы.