Признак сильного искусственного интеллекта

alex_mashin — 21.04.2023 Я некогда писал, что надёжнее всего некомпетентность выдают не ошибочные высказывания, но правильные, но сделанные невпопад.

Логическое продолжение этой мысли, которое я, по-видимому, не опубликовал, это то, что компетентность — это способность делать отрицательные высказывания: что такой-то вещи не существует, или что она не обладает таким-то свойством, или что что-то невозможно сделать. Любое количество позитивных фактов, даже приведённых к месту, не гарантирует полноты и системности знаний о предмете. Повторюсь, она проверяется отрицаниями. Просто мощность множества отдельных подвысказываний, конъюнкцией которых является отрицание, больше мощности множества, задаваемого утверждением.

К этой мысли примыкает другая моя старая мысль: по-настоящему ценное благо заключается в отсутствии чего-либо дурного.

Эту мысль можно и развить. Ценность и требования к квалификации умственного работника должны определяться формальным характером высказываний, являющихся продуктом его деятельности. Если он производит не высказывания, или что-то, не преобразуемое к высказываниям, цена наименьшая. Если это высказывания, но утвердительные, цена ему невелика. Дорого должны стоить работники, производящие отрицательные высказывания, или сводящиеся к ним: «наступай, опасности не будет» или «шансов на успех операции нет». Кстати, фальсифицируемые (в смысле критериев Поппера) высказывания тривиально приводятся к форме отрицания.

Первая, и возможно, вторая, категория работников уже заменяется слабым искусственным интеллектом. Горе им.

Но третьей категории людей конкуренция со стороны опубликованных проектов искусственного интеллекта пока не угрожает.

Способность к отрицаниям отличает не только компетентного человека от некомпетентного, но и язык от чувственного восприятия и воображения, и следовательно, сознание от подсознания; разум от опыта (для категорического отрицания недостаточно никакого опыта, для почти категорического опыта нужно много), и соответственно, человека от животного.

Вероятно, именно способность делать категорические отрицательные высказывания должна отличать сильный искусственный интеллект от слабого.

Насколько я понимаю, пока общеизвестные опыты искусственного интеллекта на это не способны. Основная проблема GPT — то, что он не говорит «нет», а галлюцинирует (см. Операцию удаления головы по Вишневскому).

Более или менее известно, как обучить нейронную сеть тому, что есть. Вопрос для разработчика ИИ теперь в том, как её обучить тому, чего нет или быть не может, а для желающего сохранить свою умственную работу — как переквалифицироваться так, чтобы высказывания в новой области экспертизы были негативными.

Оставить комментарий

Популярные посты:

• Ранее
• Архив