«За советскую науку»
Орган ректората, парткома,
профкома и комитета ВЛКСМ
Ростовского-на-Дону государственного университета.
28 марта 1964 г., № 9 (650), с. 3
Мыслит ли машина?
В прошлом номере нашей газеты был опубликован памфлет Э. Ильенкова
«Тайна черного ящика». Сегодня мы печатаем первые отклики на памфлет. Прежде
чем ознакомиться с ними, мы предлагаем вдуматься в такие высказывания.
«Создание искусственных разумных существ в принципе может быть осуществлено»,
– говорит член-корреспондент АН УССР А. Ивахненко.
«Ясно понимать, что человек — это машина и что машины могут быть
разные, нужно», — заявил академик С. Соболев.
«Принципиальная возможность создания полноценных живых существ, построенных
на дискретных цифровых механизмах переработки информации и управления, не противоречит
принципам материалистической диалектики», — утверждает академик А. Колмогоров.
В ответ на это положение А. Колмогорова академик И. Артоболевский
и доктор технических наук А. Кобринский пишут:
«Мы считаем невозможным обсуждать доводы автора и его возможных оппонентов
до тех пор, пока не будет ясно, что, или, вернее, кто понимается под «полноценным
живым существом»... «Под естественным полноценным живым существом мы понимаем,
в частности, такое существо, которое непрерывно растет и развивается; которое
в годовалом возрасте плачет по непонятным причинам и пачкает пеленки; которое
в возрасте от 3 до 5 лет задает то мудрые, то бессмысленные вопросы;
которое в 15 лет получает в школе двойки и пятерки, начинает интересоваться
стихами и иногда моет шею без специальных напоминаний; которое в 20 лет
работает у станка либо в поле, сдает экзамены, кормит грудью ребенка; которое
в 30 лет водит тракторы и проектирует спутники; которое на протяжении всей
своей жизни обязательно связано тысячами и тысячами уз с тысячами и тысячами
других полноценных живых существ; которое в конце жизни умирает, потому что процесс
умирания является одним из неизбежных жизненных процессов...
Если согласиться с таким определением, то трудно усмотреть в статье
академика Колмогорова доводы в пользу принципиальной возможности искусственного
создания полноценных живых существ».
«Появляются уже ... кибернетические Репетиловы, а может быть, и другие
персонажи бессмертной трагической комедии, готовые бодро провозгласить: машину
им в Вольтеры! От такой бодрости, пожалуй, действительно позовешь: карету или
– ракету мне, ракету!» — восклицает литературовед В. Ермилов.
С дискуссией можно познакомиться по сборнику «Возможное и невозможное
в кибернетике», выпущенному издательством АН СССР в 1963 году.
Источник проблемы
Сумма научных исследований, число существенных открытий, количество
научных статей, журналов, расходы на исследования, количество научных работников
увеличиваются вдвое каждые десять лет. Доцент кафедры философии нашего университета
М.М. Карпов в своей книге «Основные закономерности развития естествознания»
приходит к выводу, что при сохранении нынешних темпов развития науки через 250 лет
население земного шара, включая грудных младенцев и пенсионеров, должно превратиться
в научных работников.
Остроумный ответ на все эти вопросы дал известный английский ученый
Дж. Бернал. В письме секретаря Бернала, присланном на кафедру философии,
сообщается, что, когда ему перевели то место из книги М.М. Карпова, в котором
говорится об указанных противоречиях, он сказал: «Не все люди должны быть научными
работниками, ибо не все научные работники должны быть людьми».
Если мы внимательно присмотримся к тому положению, в котором сейчас
находится наука, то увидим поразительную картину. Хотя наука и превратилась в
одну из ведущих отраслей общественного разделения труда, она остается до сих
пор наименее вооруженной техническими средствами, которые могли бы в несколько
раз увеличивать производительность умственного труда. Большая часть инструментов
и приборов представляют либо дополнение и усиление естественных органов человека
– научного работника, либо могут работать только под его непосредственным наблюдением
и управлением. Что же касается процесса сбора и обработки сведений, то эта часть
работы находится на уровне кустарного, ручного производства.
Армия деятелей науки сейчас растет за счет людей, становящихся частичными
научными работниками, выполняющими какие-либо ограниченные операции. Возникла
практическая потребность в увеличении производительности труда частичного научного
работника либо в замене его машиной-автоматом. Эту потребность и должна была
удовлетворить кибернетика — наука, возникшая всего 17 лет назад.
Человек — не машина
Но механизация и автоматизации труда научных работников оказалась
лишь одной стороной происходящей сейчас промышленной революции, основной задачей
которой является создание такого общественного производственного механизма, который
исключает рабочего из непосредственного процесса производства. При этом автоматизированная
система машин сама обрабатывает предметы труда, управляет инструментами, контролирует
процесс производства. Техника полностью заменяет человека как орудие механического,
нетворческого труда. Человек раз навсегда освобождается от роли «части частичной
машины», а производственный механизм освобождается от такого «несовершенного
средства для производства однообразного и непрерывного движения» (К. Маркс),
каким является машинный рабочий. Производственный механизм, освободившись от
такого «чужеродного тела», как человек, получает возможность развиваться по своим
собственным законам. Техника теперь не копирует органы человеческого тела, а
освобождается от всяких остатков антропоморфности. Особенностями функционирования
такой системы производства являются автоматизм, непрерывность действия, высокие
скорости. Таким образом, основная тенденция развития производства заключается
в том, что человек освобождается от чуждой его природе роли придатка машины,
от роли винтика в механизме материального и духовного производства, штампующего
в громадных количествах один и тот же продукт: будет ли это вытачивание какой-либо
детали иди чтение одной и той же лекции.
Как видим, необходимость создания машин, способных управлять, собирать
и перерабатывать информацию, решать всякого рода задачи, проектировать, ставить
диагнозы, обучать и в общем «мыслить», вытекает из потребностей общества. В связи
с успехами кибернетики некоторые ученые стали отождествлять человека и машину.
Если взять известное определение Франклина, по которому «человек есть животное,
делающее орудия», и применить его к данному случаю, то человека можно было определить
как существо, делающее машины, но ни в коем случае не как машину. Человек, создавший
машину для того, чтобы освободить себя от машинообразного умственного труда,
чтобы повысить его производительность, в рассуждениях теоретиков оказался поставленным
на одну доску с машиной. От этого сравнения он, конечно, проиграл, как проиграла
бы рука в сравнении даже с простой лопатой, не говоря уже о роторном экскаваторе.
Но, кажется, из того факта, что ковш экскаватора в сотни тысяч раз быстрее выроет
котлован, чем невооруженная рука человека, еще никто не делал вывода о том, что
рука несовершеннее этого ковша.
Сравнению подлежат не человек и машина, а человек, невооруженный
машиной, и человек, на службе у которого находится созданный им самим могучий
механизм. Не кибернетическое устройство умнее человека, а человек, создавший
это устройство, умнее своего предшественника.
Мыслит человек
Когда говорят о «мыслящих» машинах, способных совершать логические
операции и вообще моделировать многие стороны человеческой деятельности, то следовало
бы обстоятельнее разобраться в том, с каким сортом мышления мы имеем дело и какая
логика имеется в виду. Ведь, сравнивая собаку и стул, очень легко и просто можно
прийти к выводу, что собака и есть стул, поскольку и то, и другое «четвероногое».
Со времени Канта и Гегеля хорошо известен факт деления мышления на рассудочное,
подчиняющееся правилам формальной логики, и разумное, движущееся в форме диалектического
противоречия. Характерной особенностью рассудочного мышлении является то, что
оно движется в пределах заранее установленной программы. Это как раз то, что
У. Эшби ошибочно называет разумом. Рассудок всегда держится наезженной дороги.
Разведчиком и открывателем нового является человеческий разум, который
является отличительной чертой человеческого мышления. Мы будем ближе к истине,
если скажем, что именно рассудочное мышление и перекладывается человечеством
на плечи машин, и, наверное, никогда человек не поручит машинам решать за Гамлета
проблему «быть или не быть».
Джон Бернал писал: «Без умных людей электронные машины глупы, они
даже не знают, когда делают глупости. Если вы составите глупую программу, то
и из машины извлечете чепуху». Он же приводит забавный пример. В США было создано
суперэлектронное устройство для того, чтобы оно ответило, когда будет война.
Были запрограммированы все необходимые данные. Ответ машины, который поступил
к генералу, гласил:
– Да.
– Что да? — спросил генерал.
Машину вновь заставили проделать все операции, и новый ответ был:
– Так точно, сэр!
Мыслит не машина, а человек при помощи машины. Глупый человек и с
помощью машины мыслит не умнее того, на что он способен.
А. Потемкин,
доцент каф. философии РГУ
О «тайнах черного ящика»
Проблема «человек и машина» на наших глазах из теоретической быстро
превращается в практическую, определяющую пути развития техники будущего. Могут
ли «мыслящие машины» стать умнее человека? Сумеют ли они приобрести сознание
и чувства? Не выйдут ли они, осознав свою силу, из подчинения людям? Эти и другие
вопросы, затронутые в памфлете Э. Ильенкова, вызывают горячие споры на диспутах
и на страницах печати, особенно зарубежной.
Быстродействующие счетно-решающие устройства делают в секунду миллионы
вычислений, держат в памяти одновременно сотни тысяч фактов, делают логические
заключения с учетом тысяч обстоятельств. По многим параметрам передачи и обработки
информации в точности и безошибочности своей логики электронный мозг все больше
опережает наш думающий мозг. С этой точки зрения, будущее «управляющее устройство»
из памфлета, возможно, с полным правом назовет человека «эталоном несовершенства,
неэффективности и отсутствия оптимальности». Уже в настоящее время электронные
модели воспроизводят свойства, которые совсем недавно рассматривались как отличительные
особенности живых существ — целесообразное поведение, обучаемость, абстрактное
мышление, воспроизведение себе подобных и т.д. В принципе нет оснований ставить
предел возможностям моделирования любого, как угодно сложного акта логический
операций человеческой мысли. Если все эти свойства деятельности «мыслящих машин»
назвать умом, то они уже сейчас в некоторых отношениях обогнали нас и стремительно
уходят все дальше вперед.
Однако, делая подобное заключение, не следует забывать, что ум человека
использует и такую высшую форму синтеза всех мыслительных операций, как психологическое
отражение окружающего мира в нашем сознании.
Но, может быть, непрерывно совершенствующиеся умные машины в будущем
получат способность сознавать окружающее и себя, переживать свое внутреннее состояние
и внешнее поведение, иными словами — обретут свою машинную психику, своеобразный
духовный мир. Страдания «мыслящего уха» от противоречий, ужас «мыслящих машин»
перед бесконечностью и прочие кибернетические эмоции, столь ярко изображенные
в памфлете, не должны вызывать усмешки, если стать на точку зрения многих отечественных
и зарубежных ученых, считающих, что, поскольку психические явления — продукт
деятельности материальных механизмов мозга, то эти явления с неизбежностью возникнут
при деятельности моделей нервных механизмов высокой организации, обладающих соответствующими
свойствами. С последним утверждением трудно спорить теоретически. Но что собой
должна представлять такая модель практически? Ведь психика человека — синтетический
продукт материальных процессов исключительной сложности, многогранности и многоступенчатости
– от химических реакций обмена веществ мозговой клетки до создания личности человека
влиянием окружающих его людей. Чтобы модель выработала такой синтетический «продукт»,
в ней должны быть воспроизведены все специфические свойства физических, химических,
физиологических, биологических и социальных процессов, которые порождают в голове
человека его сознание. Поэтому не исключена возможность,
что если наши потомки, вооруженные наукой и техникой будущего, вздумают соблюсти
все эти условия моделирования, то они с удивлением обнаружат, что должны построить...
человека.
Наконец, не могут ли «мыслящие машины» возмутиться тем, что некая
«ленивая машина», именуемая человеком, «думала прожить за счет других машин,
взвалив на них тяжкий труд мышления, самоусовершенствования и самообучения»?
Опасение это имело бы основание, если бы движущей силой эволюции машин было обеспечение
своего существования, как это имеет место в эволюции живых организмов. Но сама
суть машины в том, что она была создана человеком как орудие его труда, ее прогресс
выражается повышением производительности, ее мышление направлено на изыскание
более эффективных способов работы, полезной человеку. Может
ли машина заботиться о своих интересах? Да, в той мере, в которой это предусмотрел
конструктор для обеспечения надежности ее работы. Может ли при этом возникнуть
конфликт машины и человека? Да, в той мере, в которой конструктор допустил просчет
и не учел требования техники безопасности. Совершенствование автомобилей привело
к увеличению числа их жертв не потому, что автомобили пытались освободиться от
седоков, а потому, что большая скорость движения предъявила более высокие требования
к водителям и пешеходам. По-видимому, эра «мыслящих машин» вызовет к жизни
совершенно своеобразную технику безопасности, которая будет предотвращать нежелательные
и аннулировать опасные для людей программы действий и решения, принимаемые гигантами-роботами.
Конечно, если бы «мыслящие машины» обрушили свою мощь на человечество,
то это привело бы к неисчислимым бедствиям.
Но техника может обернуться против человека только по злой воле людей,
а не по естественной природе машин. Яркий пример мы видим в использовании атомной
энергии. Поэтому с наступлением светлого будущего человечества — коммунизма –
умные кибернетические исполины потеряют возможность быть страшным средством уничтожения
и будут самосовершенствоваться лишь в направлении своего естественного назначения
– быть универсальными орудиями созидательного труда человека.
А. Коган,
профессор, зав.каф. физиологии
человека и животных
«За советскую науку»
13 июня 1964 г., № 18 (659), с. 3.
Мыслит ли машина?
В нашей газете был опубликован памфлет Э. Ильенкова «Тайны черного
ящика» и отклики на него университетских ученых. Памфлет был затем перепечатан
другими газетами.
Сегодня мы предоставляем слово двум читателям газеты, которые по-разному
оценивают «Тайны черного ящика».
Мы печатаем также отрывки из последнего интервью Норберта Винера
– «отца кибернетики».
Норберт Винер убежден в том, что человек должен суметь остаться человеком
в век технического прогресса, основанного на достижениях науки. Но сможет ли
общество научиться ценить людей в человеческих, а не в коммерческих единицах
измерения? ученый говорит о необходимости человеческого отношения к человеку,
но в его словах нет уверенности, что это возможно в том обществе, которое американский
ученый покинул навсегда 18 марта 1964 года.
Последнее интервью Норберта Винера, напечатанное в № 13 «Недели»
этого года, перепечатывается нами в сокращении.
Вопрос. Доктор Винер, существует ли тенденция к переоценке
полезности вычислительных машин?
Ответ. Существует своего рода культ техники. Людей очаровывают
разные технические новинки. Машины предназначены для того, чтобы их использовал
человек. Но если человек предпочитает целиком предоставить машине решать, как
использовать машины, в силу сверхпреклонения перед машиной или нежелания самому
принимать решения (назовете ли вы это леностью или трусостью — все равно), тогда
мы можем оказаться в затруднительном положении.
Вопрос. Иногда приходится слышать, что будут созданы машины,
которые превзойдут способности человека. Согласны ли вы с такими высказываниями?
Ответ. Я бы сказал так: если человек окажется менее способным,
чем машина, то это будет очень плохо. Но в этом вовсе нельзя обвинять машины.
Это придется расценивать как крах человека по его собственной вине.
Вопрос. Существует ли тенденция к дальнейшему усложнению машин
и повышению их способностей?
Ответ. Мы делаем весьма сложные машины и собираемся в ближайшие
годы делать еще более сложные. Есть вещи, которые пока не привлекают внимания
публики, но нам они дают основания считать, что такие машины будут созданы в
течение ближайших десяти лет.
Вопрос. Часто говорят, что вычислительные машины «думают».
Правильно ли это?
Ответ. Современные вычислительные машины могут обучаться,
улучшать свою работу, оценивая ее результаты. Это верно. Назовете ли вы это мышлением
или нет — вопрос терминологии. Я могу с уверенностью сказать, что данная область
будет разрабатываться и впредь, по мере того как мы сможем создавать все более
сложные вычислительные машины.
Вопрос. Возможно ли, чтобы машина превзошла человека в способности
обучаться? Не превосходят ли в этом смысле машины человека сейчас?
Ответ. Сейчас, конечно, нет. И не смогут еще долгое время,
если это вообще когда-нибудь произойдет. Это может случиться лишь в том случае,
если мы перестанем учиться. Ибо нам обучаться легче, чем машине.
Вопрос. Разговоры о думающих роботах, которые овладевают землей,
– это фантастика?
Ответ. Да, это фантастика, но при условии, что людьми не овладеет
идея: предоставим все «жестяному Майку». Я хочу сказать, что если мы будем рассматривать
машину не как самостоятельное дополнение к нашей власти над силами природы, а
как нечто расширяющее нашу власть над природой, то мы сможем сохранить контроль
над машиной. В противном случае мы не сможем этого сделать. Люди, обожествляющие
машины, которые полагают, что машины будут делать все, а на долю людей останется
бездумное безделье, разумеется, думают иначе.
Вопрос. В каких целях вычислительные машины могут быть использованы
разумным образом, что они могут делать лучше, чем люди?
Ответ. Ведение бухгалтерии, продажа билетов, различного рода
учетная работа. Если у вас есть программа вычислений, машина в состоянии выполнить
их гораздо лучше, чем человек. И в будущем вычислительные машины будут справляться
с такими заданиями лучше, нежели теперь. Их возможности окажутся достаточно разносторонними,
чтобы они смогли позволить себе делать то, что делает мозг.
Вопрос. Возьмут ли на себя эти машины в будущем намного большую
долю той работы, которую сегодня выполняет человек?
Ответ. Да.
Вопрос. Считаете ли вы после вашей последней поездки в Россию,
что Советы уделяют большое внимание вычислительным машинам?
Ответ. Они придают этому очень большое значение. У них есть
институт в Москве. У них есть институт в Киеве, институты в Ленинграде, в Ереване,
в Тбилиси, в Самарканде, в Ташкенте и Новосибирске. Возможно, есть и другие.
Вопрос. Полностью ли они используют эту область науки по сравнению
с нами?
Ответ. Общее мнение — и это мнение многих самых различных
людей — состоит в том, что у них производство вычислительных машин отстает от
нашего уровня. В теоретической разработке проблем автоматизации они идут впереди нас.
Возможности мозга
«...Ограничен разум человека, но зато
безграничен разум человеческий...»
В. Белинский
В наши дни нет равнодушных, когда дело касается кибернетики. Споры
и дискуссии о проблемах этой науки подчас вспыхивают сам собой, стихийно, и тем
более интересным кажется обсуждение, начатое на страницах газеты «За советскую
науку».
Пожалуй, ни одна наука не имела столько безумно влюбленных сторонников
и столько трезвых противников, когда разговор заходил о методах, путях развития,
перспективах, чем кибернетика. И ни одной науке, при становлении ее в обществе,
горячие сторонники не принесли столько вреда, как кибернетике. Поистине любовь
ослепляет. Я говорю, в частности, о том легком, небрежном обращении с понятиями,
которое так часто встречается в афористических высказываниях даже видных ученых.
Так, вызывают недоумение слова С. Соболева: «Ясно понимать, что человек
– это машина, и что машины могут быть разные — нужно». Позвольте, но понятие
«Человек» имеет вполне определенное содержание, созданное кропотливой работой
философской мысли и впервые сформулированное Марксом. Человек — это совокупность
общественных отношений — вот в чем его сущность, как считает марксистская философия.
Машина — только средство производства.
В этом свете категорическое заявление, что человек всего лишь одна
из разновидностей машин, не вызывает ничего, кроме досады.
В последнее время кибернетики все реже упоминают, что сравнение человека
с машиной — это плодотворная, но всего лишь весьма и весьма приблизительная аналогия.
Все чаще мелькают термины — думающие, мыслящие машины... А после удачного моделирования
«логического скелета» рассудочного мышления (в принципе общего с животными) начали
всерьез говорить о машине «умнее» человека (без кавычек).
Если в период юношески бурного развития кибернетики все это воспринималось
с одобряющей улыбкой, то теперь, когда наука вступает в стадию зрелости, это
огорчает. Ведь всему свое время — юношеская несдержанность должна смениться серьезной
зрелостью.
В своем увлечении «думающими» машинами кибернетики начинают забывать,
что мозг таит в себе неисчерпаемые возможности, что и он способен развиваться
совершенствоваться. И трудно даже представить, какой скачок в развитии совершит
мозг, переложив всю «нечеловеческую» деятельность на плечи машин, которые станут
ступеньками к вершинам развития. Это будет подлинный триумф Человека!
В. Никитин,
врач, аспирант каф. философии
Какая нам нужна ракета?
«Под полноценным живым существом мы понимаем
такое существо, которое... пачкает пеленки...»
И. Артоболевский,
А. Кобринский
Можно понять первых саботажников, бросавших в ненавистные им машины
свои башмаки («сабо»).
Они напоминают тех — не первых и не последних — философов, которые
даже в нынешних «думающих» машинах все еще усматривают нечто недозволенное. Отклонение
от диамата якобы тем большее, чем эти машины совершеннее и «умнее». С этой точки
зрения перспективы безнадежны: чем больше успехи кибернетики, тем хуже для ее
философской репутации.
Методологически критика кибернетики сводится к одному: «Этого не
может быть, потому что этого не может быть никогда». Скучно, нелепо, зато пристойно.
Всерьез поставлен вопрос о функциональном, без предвзятых допущений,
определении сознания, мышления, жизни. Нравится это или не нравится, но в пользу
данного определения имеются логичные, предметные доводы — весомые для специалиста,
грубые для утонченных невежд и зримые для всякого непредубежденного взгляда.
Для опровержения таких доводов одного «не может быть» явно мало — и в ход идут
стоптанные башмаки новых луддитов.
Конечно, критика начинается с «нет». Но кончается она тоже на «нет».
Отождествление отдельных сторон человека и машины — в кибернетике
не более условно, и не менее допустимо, чем в политэкономии (при характеристике
производительных сил). Противники будущих достижений кибернетики путают невозможное
с невероятным.
Восклицание В. Ермилова «Ракету мне, ракету!» предназначено
быть убийственным доводом против тех, кого он скромно относит к Репетиловым.
В отличие от Вольтера, у нашего критика хлесткости больше, чем логики. В самом
деле, ракету с каким — «думающим» или не «думающим», «вольтеровским» или «репетиловским»
управлением он предпочел бы?
Почти во всех странах не первый год действуют устройства, идентифицирующие,
подобно экспертам-криминалистам, различный доказательственный материал (черты
внешности, дактилограммы, следы крови и т.п.). Результат их работы — не просто
«отклонение стрелки», а анализ, оценка, вывод, суждение.
Чье суждение? Не конструктора, не программиста, не оператора. Чье
же? Пусть ответят памфлетисты.
Они говорят, что суждение будет суждением только в том случае, если
автор его «пачкает пеленки» (относится ли это к критическим суждениям?). Но зачем
наделять машину тем, что, собственно, отнюдь не требуется и от человека.
Кибернетика давно вышла из пеленок. Да последуют ее оппоненты этому примеру.
В. Беляев,
Ст. преп.каф. уголовного права и процесса