vit_r: default (Default)
[personal profile] vit_r
Thekla 2024

Проблемы внедрения медицины в Искусственный Интеллект


[ itSotWC::2022-12-08_4, itSotWC::2023-08-21_1 ]

Поведали очередные новости цифровизации с артиклем "бля".

Жили были диабетики и кололи себе инсулин. Но колоть, считать и планировать -- это неудобно. И придумали для диабетиков инсулиновые помпы.

Человек задаёт режим, помпа впрыскивает под кожу инсулин.

У человека свободна голова. У человека свободны руки. Человек думает и задаёт программу, автоматика работает.

Но думать -- это (по нынешним временам) неудобно. Для этого специальные люди есть. Они и придумали заменить сложное ручное управление Искусственным Интеллектом.

У человека свободна голова. У человека свободны руки. Человек не думает. Искусственный Интеллект сам всё меряет, сам всё решает.

Здравствуй, новый мир искусственного управления!

Ага. Кто догадался, догадался правильно.

Остальным сообщу, что по итогам использования предупреждают диабетиков перед физическими нагрузками не есть, после принятия пищи спортом не заниматься.

Диабетик потребляет калории. Искусственный Интеллект видит рост глюкозы и его купирует по своим, Искусственного Интеллекта соображениям, впрыскивая в диабетика инсулин быстрого действия.

Понятно, что это просто статистика и выравнивание на среднее, но был бы Искусственный Интеллект интеллектом, он бы тем же самым занимался. Потому что он видит результаты, а планы помпоносителя ему неподвластны.

Диабетик, который находится под управлением искусственного интеллекта, начинает физически нагружать мышцы. Мышцы расходуют глюкозу. А глюкоза уже снижена инсулином по решению искусственного интеллекта.

Ну, да. Привет. Гипогликемия.

Глюкоза в крови падает, внутренние органы отключаются. Если подойти со спортивным фанатизмом, можно и кони откинуть.

В прошлом мире за такое били больно. Во-первых, явная ошибка в человеко-машинном интерфейсе. Во-вторых, проблема, которая называется Übersteuerung (overregulation).

Системы с обратной связью и временными задержками нельзя нагружать "очень точно". Это приводит к потере управления. Что в физических системах, что в социальных структурах. (Опять же, упомяну Dietrich Dörner, "Die Logik des Mißlingens. Strategisches Denken in komplexen Situationen" / Дитрих Дёрнер, "Логика неудачи".)

Но это было раньше.

Сейчас диабетикам остаётся только молиться на Искусственный Интеллект и, каждый раз поднося булочку ко рту, гадать, не нарушили ли они Законы Статистики.

Ещё из занимательного с переднего края медицинских наук, рассказали про дедушку, выжившего из ума, а потому выступающего как непререкаемый авторитет, указующий и направляющий. По мнению дедушки, все вопросы с диетами и питанием решаются просто: пациент заключается в лечебное заведение строгого типа и ему четыре раза в день выдаётся строго рассчитанное Наукой питание положенных по решению Науки калорий.

Отчего пациент хочет -- не хочет, а будет худеть. В Германии в прошлом веке эта методика тоже применялась, только тогда к супу ещё и горбушку хлеба выдавали.

То, что при таком питании летят кости-мышцы-мозги, это дедушке не важно. Американская наука работает на достижение одной цели.

А когда у пациента проявятся новые недомогания, тогда будет поставлен новый диагноз. И его научно-обоснованно обработают новым набором таблеток. Или чего-нибудь ещё вырежут.

Постепенно начинаю понимать врачей, которые к врачам не ходят. Если чего-то заболело, лучше попытаться обойтись травками-корешками, не подвергая себя научно-обоснованному лечению.

Да, про овцинацию сейчас ничего писать не буду и никому не советую. Врачей и стариков прививали первыми версиями. Там много интересного. Но подождём, когда на разговоры об эффектах появятся судебные разрешения.

Ещё сейчас пошла интересная версия ковида. Болеет человек несильно, но сильно иммунитет спадает. А там уже сверху что-то серьёзное цепляется. Сейчас на подъёме злобная микоплазменная пневмония.

Соседняя больница совсем развалилась. После всех перипетий поставили тётю новым (новой) СЕО. А она не очень здорова. (Диагноз был официально объявлен после избрания и, надо сказать, выбор из всех кандидатов был исключительно удачен.)

В рекламной брошюре основное место занимают рассказы о том, что больница будет специализироваться на гериатрии.

На проводах в последний путь можно сделать много денег. Судя по качеству медицинского обслуживания, рост данного направления не будет испытывать трудностей.

Интересно, что почти ничего не попадает в прессу. А потому и я не буду рассказывать местные новости. (Они захватывающие. Будете в наших местах, всеми правдами и неправдами добирайтесь до Цюриха. В эту я вам попадать не советую.)

Date: 2024-09-23 12:47 pm (UTC)
michaelkoloboff: (Default)
From: [personal profile] michaelkoloboff
На днях тут один учоный на вопрос о безопасности овцин для детей ответил примерно "Вот вы смешные! Начнем колоть - узнаем."

Date: 2024-09-23 01:02 pm (UTC)
michaelkoloboff: (Default)
From: [personal profile] michaelkoloboff
Да какой нахер контроль качества? Agile же. Ошибки исправим по дороге. Все сделано правильно. Всегда. Есть небольшие недоработки (согласно отзывам щасливых клиентов), даже если кто-то внезапно мрет, то это не повод отзывать шмурдяк, доработаем в процессе. Идея же правильная. Ноука, эксперты все так говорят. Что теперь, отказываться от ноуки из-за каких-то анфортунате отрицателей? Бенефиты перевешивают риски, по-любому.

Date: 2024-09-24 04:51 pm (UTC)
From: (Anonymous)
Чем плох этот подход? В айти я на себе испытал, что только на огромной базе разных пользователей можно набрать багов, которые хрен найдешь в тестлабе, у нас просто нет возможностей протестировать все возможные сочетания софта и железа. Приходили потом с довольно экзотическими сочетаниями, хитрыми неюникодными кодировками БД, от которых особенным образом составленный запрос бил софтину в падучей. На 8 млрд человек наверняка уникумов, у которых разовьется всякая падучая от вакцин, будут сотни тысяч и миллионы.

Date: 2024-09-24 09:46 pm (UTC)
uselessextras: (Default)
From: [personal profile] uselessextras
Он не особо плох, и иногда выхода другого нет, кроме как в продакшене экспериментировать, но одна беда - клиенты жаловаться норовят через голову, прямо самому большому начальству, которое денег хочет.

Date: 2024-09-25 01:14 pm (UTC)
From: (Anonymous)
Вот примерно так и аргументировали айтишники на хабре когда им пытались объяснить, что происходит.
Потому что айтишники страшно далеки от всяких гуманитарных глупостей вроде прав человека, свободы воли, юриспруденции, не говоря уж о таких ужасно "конспирологических" вещах как банальная денежная выгода участников событий.

Когда-то, в давние времена, про таких айтишников рассказывали анекдот - мол, в машину заложили калорийность продуктов и потребовали самый дешевый минимальный рацион для человека на день. И машина выдала 6 чашек чаю с сахаром. В те давние времена люди понимали, что тут смешного. А нынешние айтишники уже не понимают. Да, статистика же есть, да, калорийность, а что вы хотели, задача так была поставлена, мы её решили.

Date: 2024-09-30 08:08 pm (UTC)
From: (Anonymous)
Юридические крючкотворства это дело переписывания конвенций, бумаг о принятом. Поэтому юридические обоснования нового сводятся к тому, что "раньше было нельзя, подпишем новые бумаги и станет можно". С правами человека до 48 года же не носились. Сейчас на эту декларацию много чего нанизано такого, что prone to malicious and antisocial behavior. Все беженство к примеру завязано на договоры 1951 и 1967 годов, а они ссылаются в основе на декларацию 48 года.
Аспект выгоды я не понимаю, как нарушен: государства с подачи ВОЗ закупили миллиарды доз разных вакцин и пробустили их разработку. Деньги в отрасль поперли рекой, причем поднялись даже те лодки, кто в вакцинной разработке не участвовал. Акции AbbVie, Eli Lilly поднимались в 2020. Китайское правительство централизованно закупало более миллиарда доз Sinovac. Вы можете сказать, что люди, пострадавшие от побочек, могут подать на миллиардные компенсации, но мы идем обратно к юридическим аргументам, о позволительном. Например, существует четкая однозначная связь между перманентными отключениями электричества в северной Калифорнии и судебным прецедентом против компании PG&E. Очевидно, что если бы было законодательно запрещено судиться с энергокомпанией, этих отключений (из опасения, что их опять засудят за неотключение во время пожаров) просто не было бы. То же самое логично сделать и с медицинскими компаниями - прописать юридический запрет подавать иски против побочек. Сейчас нельзя же судить ИТ компании за баги, говорят что софта без багов не бывает. Представьте себе, что это было бы запрещено, и тогда вся разработка бы велась в строжайшем контроле как в критичных приложения в среде RTOS, требования к качеству сотрудников увеличились бы кратно, и стоимость улетела бы тоже очень высоко. Страшнейший сбой в компьютерах по всему миру из-за компании Клаудстрайк остался безнаказанным, компания продолжает работать и сохранила контракты.

>И машина выдала 6 чашек чаю с сахаром

К пуговицам вопросов нет? :) Шекливский вопрос о верном вопросе.

Date: 2024-09-24 06:51 pm (UTC)
From: (Anonymous)
Честный человек, между прочим! Либо нечаянно проговорился=)

Date: 2024-09-23 06:39 pm (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi
Да блин.

Если у человека диабет, то за несколько лет человек вроде бы набирается уже нетривиального опыта насчёт сахара. Ну типа вчерашняя двухчасовая поездка на велосипеде означает, что сегодня не нужно особо-то колоться. А резкое падение битков, в которые наивно вложился в неподходящий момент, вызывает резкое повышение сахара, хотя, может быть, ничего такого с утра и не ел вообще - а вот, адреналин убивает инсулин.

"Интеллект" же ничего такого не знает и не может учитывать.

Date: 2024-09-23 07:44 pm (UTC)
From: [personal profile] marooned_in_paradise
Они хотя бы на типы внимание обращают или диабет и все, а первый там или второй знать не нужно? Удивительно все таки, как две совершенно разные болезни оказались по одной крышей.

Date: 2024-09-24 09:12 am (UTC)
From: [personal profile] anonim_legion
Так программисты поди соберут помпу без искусственного интеллекта. Она вполне может быть лучше официальной медицинской.

Как интересно совпало

Date: 2024-09-23 08:58 pm (UTC)
From: [personal profile] idan11
В средине 90-ых по этой именно теме (инсулинопомпа) защищалась дочка нашего завкаф, бывшего гендира крупного завода медоборудования.
Тогда никаким ИИ и не пахло поэтому разрабатывали датчики, программу и т.д.

Re: Как интересно совпало

Date: 2024-09-24 09:43 pm (UTC)
uselessextras: (Default)
From: [personal profile] uselessextras
Чегой-то не пахло-то? Он вечноживой, всегда был рядом. Просто интеллектуальные способности были не очень, но все равно - интеллект!

Date: 2024-09-23 09:32 pm (UTC)
sivka2006: (Default)
From: [personal profile] sivka2006
У меня холодильник стал кричать, что надо установить апдейт с Искусственным Интеллектом.
Я его отлючил от интернета от греха подальше.

Profile

vit_r: default (Default)
vit_r

June 2025

S M T W T F S
12345 6 7
8 910 11 12 1314
15161718192021
22232425262728
2930     

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jun. 15th, 2025 11:36 pm
Powered by Dreamwidth Studios
OSZAR »