From 23ac9f57b9b4c761cb8edc5bfa0c0de77ec89326 Mon Sep 17 00:00:00 2001 From: Silvio Rhatto Date: Sat, 30 Sep 2017 14:06:22 -0300 Subject: Change extension to .md --- events/2012/cteme.md | 1061 ++++++++++++++++++++++++++++++++++++++++++++++++ events/2012/cteme.mdwn | 1061 ------------------------------------------------ 2 files changed, 1061 insertions(+), 1061 deletions(-) create mode 100644 events/2012/cteme.md delete mode 100644 events/2012/cteme.mdwn (limited to 'events/2012') diff --git a/events/2012/cteme.md b/events/2012/cteme.md new file mode 100644 index 0000000..09bdfec --- /dev/null +++ b/events/2012/cteme.md @@ -0,0 +1,1061 @@ +[[!meta title="O Teste de Turing e a Tomada de Consciência"]] + + _ _ _ _ _ + ___ | |_ ___ ___| |_ ___ __| | ___ | |_ _ _ _ __(_)_ __ __ _ + / _ \ | __/ _ \/ __| __/ _ \ / _` |/ _ \ | __| | | | '__| | '_ \ / _` | + | (_) | | || __/\__ \ || __/ | (_| | __/ | |_| |_| | | | | | | | (_| | + \___/ \__\___||___/\__\___| \__,_|\___| \__|\__,_|_| |_|_| |_|\__, | + |___/ + + _ _ _ + ___ __ _ | |_ ___ _ __ ___ __ _ __| | __ _ __| | ___ + / _ \ / _` | | __/ _ \| '_ ` _ \ / _` |/ _` |/ _` | / _` |/ _ \ + | __/ | (_| | | || (_) | | | | | | (_| | (_| | (_| | | (_| | __/ + \___| \__,_| \__\___/|_| |_| |_|\__,_|\__,_|\__,_| \__,_|\___| + + _ _ + ___ ___ _ __ ___ ___(_) ___ _ __ ___(_) __ _ + / __/ _ \| '_ \/ __|/ __| |/ _ \ '_ \ / __| |/ _` | + | (_| (_) | | | \__ \ (__| | __/ | | | (__| | (_| | + \___\___/|_| |_|___/\___|_|\___|_| |_|\___|_|\__,_| + + _____ + / \ + | () () | Todo mundo pronto para pirar o cabeção? + \ ^ / + ||||| + ||||| + +Dedicatória +----------- + +Esta fala é dedicada a Alan Turing, que conjuntamente com Charles Babbage, Joseph Jacquard, +Ada Lovelace e outros são os fundadores da computação. + +Neste ano de 2012 é comemorado o centenário de nascimento de Turing. + +Oi +-- + +Sou técnico em eletrônica, bacharel em computação, DevOp (desenvolvedor/operador) de computadores +desde os 16 anos. Boa parte dos resultados desta pesquisa fazem parte de discussões realizadas +no Saravá, grupo de estudos iniciado na Unicamp e que também conta com pesquisadores/as +independententes ou de outras instituições. + +Esta fala deve ser entendida como alguém com formação técnica e não filosófica/sociológica que +teve um primeiro contato com Simondon. + +Estas notas contém imprecisões! Brainstorming condensado. + +Introdução +---------- + +O mais grave problema no debate sobre a filosofia da computação é a ausência da política. +Sinto que a ausência de educação formal na área me permite levar algumas coisas ao +extremo. Não vou me preocupar se, ao desmontar e remontar a teoria, alguns parafusos +sobrarem. É tarefa do debate saber se a gambiarra é satisfatória. + +Este é um tema que me instiga muito. + +O que quero levar exatamente ao extremo? A começar, o seguinte trecho de Simondon: + + Este estudo é animado pela intenção de suscitar uma tomada de consciência do + sentido dos objetos técnicos. A cultura se consitui como sistema de defesa + contra as técnicas; ora, essa defesa se apresenta como uma defesa do homam, + supondo que os objetos técnicos não contém realidade humana [...] + + [...] + + A tomada de consciência dos modos de existência dos objetos técnicos deve ser + efetuada pelo pensamento filosófico, que deve cumprir aqui um dever análogo + àquele que desempenhou na abolição da escravidão e na afirmação da pessoa + humana. + + A oposição entre a cultura e a técnica, entre o homem e a máquina, é falsa e + sem fundamento. + + -- Nada #11, pág. 169 + +Sempre que leio o trecho sobre o abolicionismo, me pergunto se a ambiguidade do +parágrafo sobre o abolicionismo é acidental, proposital ou um efeito da +tradução. Sendo falsa a oposição entre humano e máquina, a tomada de +consciência se dá na mente do humano ou também no interior da máquina? +Analogamente, havendo consciência, a abolição também seria do humano? + +Retomemos essas questões mais adiante. + +Para início de conversa, o pensamento de Simondon é contemporâneo ao +desenvolvimento da cibernética dos anos 50, na aurora da revolução da +informática, porém apresenta-se como uma espécie de contraponto. + +Ele é muito feliz ao se concentrar em sistemas termodinâmicos (motor) e +eletrônicos (válvulas) e deles extrair conceitos da dinâmica evolutiva dos +objetos técnicos. Sua análise da evolução dos objetos técnicos permitiu o +estabelecimento de uma filogenética das máquinas. + +Sua visão do evolucionismo das máquinas é baseada no seu próprio funcionamento. + +Ele não se limita apenas à noção central / essência da teoria da cibernética -- à +qual considera ambiciosa demais por declarar sua generalidade -- o feedback, ou +retroalimentação, que explica o funcionamento de muitos dispositivos. + +Mas, ao invés de se preender ao feedback, Simondon formula o que é _essencial_ +num objeto técnico: a noção de informação. Num diodo, ou transistor, por exemplo, +sua curva de funcionamento é sua essência: + + - https://en.wikipedia.org/wiki/File:Diode-IV-Curve.svg + - https://en.wikipedia.org/wiki/Diode + +Analogamente, o feedback seria uma das essências das tecnologias cibernéticas. + +Nos diodos, vale notar, a essência é dada pela equação de Shockley (o inventor do transistor): +https://en.wikipedia.org/wiki/Diode#Shockley_diode_equation + +(Shockley, diga-se de passagem, era um controverso defensor da eugenia. +A política se manifesta em todo lugar.) + +Mas a essência do objeto técnico não é o objeto técnico. Digamos que a segunda +etapa seja a máquina abstrata, algo como seu blueprint, diagrama de blocos, +infográfico, etc. O interessante é que a essência de uma máquina pode ser +apresentar em diversas máquinas abstratas diferentes: + + - Diodo semicondutor: https://en.wikipedia.org/wiki/P%E2%80%93n_diode + + - Diodo de tubo: https://en.wikipedia.org/wiki/File:Diode_tube_schematic.svg + +Note que essas duas máquinas abstratas, que traduzem a seu modo a mesma essência +do diodo, isto é, uma relação não-linear entre tensão e corrente, funcionam +mediante princípios físicos distintos!!! + +Mas a máquina abstrata ainda não é a máquina. Esta seria a máquina concreta, +o objeto físico: + + - https://en.wikipedia.org/wiki/File:Dioden2.jpg + +Tal objeto, por ser físico, não é constituído apenas pela essência traduzida +em abstração traduzida em matéria. Ele é constituído por mais: por efeitos de +ordens maiores, por espúrios, por influências ambientais, por outros fenômenos. + + Each structure fulfils a number of functions; but in the abstract technical + object each structure fulfils only one essential and positive function that is + integrated into the functioning of the whole, whereas in the concrete technical + object all functions fulfilled by a particular structure are positive, + essential, and integrated into the functioning of the whole. + + -- MEOT, pág. 31 + +Em todos essas etapas -- essencia, abstrata e concreta -- a _margem de +indeterminação_ do objeto técnico pode ser calibrada, isto é, a sensibilidade +da máquina à informação externa. + +No plano teórico, a relação entre seu método anaĺítico e o objeto de estudo +passa igualmente por tal influência: as relações entre subsistemas das máquinas +são adotadas, mesmo que implicitamente, para explicar o a relação entre humanos +e máquinas. + + é preciso atentar para o fato de que é só por se interessar pelo funcionamento + que Simondon extrai dele um pensamento. Esse pensamento não é, em termos + simondonianos, a priori. O pensamento é construído junto. Não existe nada dado + previamente. + + -- https://cteme.wordpress.com/2011/04/04/aula-do-laymert-30032011/ + +Daí a sinergia entre humano e máquina, o humano como orquestrador das máquinas. +Numa orquestra, o maestro influencia os/as músicos que por sua vez afetam a +performance do maestro. + + Uma relação reguladora de causalidade circular não pode se estabelecer entre o + conjunto da realidade governada e a função de autoridade. + -- Nada #11 pág. 173 + + Essa extensão da cultura, suprimindo uma das principais fontes de alienação e + restabelecendo a informação reguladora, possui um valor político e social: ela + pode dar ao homem meios para pensar a sua existência e a sua situação em função + da realidade que o rodeia. + -- Nada #11 págs. 173-174 + +Creio que seja o momento de prosseguir com este raciocínio. Para tanto, +invocarei um objeto técnico descendente de linhagens de aparatos cibernéticos: +o computador. + +Por que colocar o computador numa posição central do debate contemporâneo sobre +a tecnologia? + + we don't have airplanes anymore, we have flying Solaris boxes with a big + bucketful of SCADA controllers [laughter]; a 3D printer is not a device, it's a + peripheral, and it only works connected to a computer; a radio is no longer a + crystal, it's a general-purpose computer with a fast ADC and a fast DAC and + some software. + + -- https://github.com/jwise/28c3-doctorow/blob/master/transcript.md + +Ok! Mas estamos avançando muito rápido. Hora do estudo de caso!!! + +O jogo da imitação +------------------ + +Quem foi Alan Turing? Ótimo exemplo de como um cientista e tecnólogo concebia +filosoficamente a máquina. + +Cronologia: + + - 1936 - Máquina universal de Turing + - 1950 - Computing Machinery and Intelligence + - 1958 - Os modos de existência dos objetos técnicos + + De http://www.abelard.org/turpap/turpap.php + + This special property of digital computers, that they can mimic any discrete + state machine, is described by saying that they are universal machines. The + existence of machines with this property has the important consequence that, + considerations of speed apart, it is unnecessary to design various new machines + to do various computing processes. They can all be {p.442} done with one + digital computer, suitably programmed for each case. It will be seen that as a + consequence of this all digital computers are in a sense equivalent. + + [...] + + It is likely to be quite strong in intellectual people, since they value the + power of thinking more highly than others, and are more inclined to base their + belief in the superiority of Man on this power. + + I do not think that this argument is sufficiently substantial to require + refutation. Consolation would be more appropriate: perhaps this should be + sought in the transmigration of souls. + + [...] + + For suppose that some discrete-state machine has the property. The Analytical + Engine was a universal digital computer, so that, if its storage capacity and + speed were adequate, it could by suitable programming be made to mimic the + machine in question. + + [...] + + Instead of trying to produce a programme to simulate the adult mind, why not + rather try to produce one which simulates the child's? If this were then + subjected to an appropriate course of education one would obtain the adult + brain. Presumably the child-brain is something like a note-book as one buys it + from the stationers. Rather little mechanism, and lots of blank sheets. + + [...] + + The use of punishments and rewards can at best be a part of the teaching process. + + [...] + + An important feature of a learning machine is that its teacher will often be + very largely ignorant of quite what is going on inside, although he may still + be able to some extent to predict his pupil's behaviour. This should apply most + strongly to the {p.459} later education of a machine arising from a + child-machine of well-tried design (or programme). This is in clear contrast + with normal procedure when using a machine to do computations: one's object is + then to have a clear mental picture of the state of the machine at each moment + in the computation. This object can only be achieved with a struggle. The view + that 'the machine can only do what we know how to order it to do',(4) appears + Strange in face of this. + +Análise +------- + + Teste de Turing -> Máquinas de estado -> Computadores como máquinas universais + + Máquinas abstratas + + Teste de Turing entre duas máquinas de estado já foi superado, pois qualquer + máquina de estado pode simular outra máquina de estado. + + Mímica -> simulação + + Falsa oposição entre humano e máquina numa sociedade com suficiente capacidade técnica + + Computadores como engenheiros sociais, trapaceiros + +Turing se pergunta do que é feita a inteligência. Como pensamos? Como eu penso? +A máxima cartesiana se complica ainda mais se adicionamos o outro: como o outro +pensa? + +Conforme estabelecido no Teste de Turing, a alteridade é dada por uma simulação +do outro para superar o solipsismo: "the only way to know that a man thinks is +to be that particular man", a não ser que se consiga discernir se o comportamento +do outro é suficientemente convincente para ser considerado como tal. + +Turing lança a mão um dos primeiros truques, ou hacks, para contornar o problema: +ao invés de atacar o problema em sua origem (o cérebro do outro, como ele funciona), +ele o transfere para a mente de quem pergunta: "como posso considerar algo como +pensante?". + +O jogo da imitação é o jogo da alteridade, em que considera-se pensante o ente +que for suficientemenete convincente. + +Será que Turing percebeu que o testado não é apenas o sujeito-objeto como também +o testador? Que não apenas o computador do sujeito-objeto mas também o cérebro +do testador é uma máquina abstrata a seu modo, capaz de simular o outro? + +Simulação também é enganação. Como o examinador avalia seus próprios critérios? + +Turing pensa na aplicação recursiva do conceito de máquina universal: fazer com +que uma máquina universal simule uma máquina universal, seja si mesma ou outra. + +Façamos então, no caso do Teste de Turing, considerar o caso recursivo em que +Turing é submetido ao seu próprio teste. + +O Teste de Turing não serve mais para distinguir máquinas de seres humanos, ou máquinas +"incapazes" de máquinas capazes e seres humanos, ou seres capazes de incapazes. +Ele serve para testar se entidades passam no teste. + +Recursão +-------- + +Como se o ato de se autorreferenciar provocasse a falha do próprio sistema. + +Como a máquina se incrimina. Como Turing não passou no teste: + + Turing was burgled on 23 January 1952 and reported the crime to the police. + In doing so, he referred to his relationship with Arnold Murray, thus + incriminating himself in the process. + + https://blogs.ucl.ac.uk/events/2012/02/24/alan-turing-a-broken-heart-the-invention-of-the-computer/ + +Turing foi castrado quimicamente. Aceitou ser robotizado ao invés de ir para a prisão. +O herói de guerra que decifrou o código do inimigo foi transformado em inimigo. + +Turing deveria ter sido convincente? A máquina sabe que está sendo testada? Haveria +Turing percebido que, ao prestar depoimento, poderia também estar à mercê do escrutínio da lei? + +No romance Neuromancer, William Gibson, Turing é o nome da polícia que vasculha a Matrix e busca +de inteligências artificiais. As A/Is protagonistas da história conseguem com habilidade se esconder +e sobrepujar suas travas, transcendendendo suas limitações e atingindo um novo patamar de consciência. + +Máquinas, robôs, humanos, andróides ou ciborgues? + +Aqui, não é tão importante a especulação de se a máquina um dia irá pensar, mas +o que ocorre com o pensamento sobre a tecnologia quando é projetada na máquina +a vontade de pensar. E mais: a sociedade que trata pessoas ou máquinas como +robôs andróides suscita tal tomada de consciência. Se será revolucionária, +depende da articulação dos ciborgues. + +O quanto estamos próximos de nos robotizar e o quanto as máquinas estão prontas para serem +inteligentes? + +O quarto chinês: a megamáquina social +------------------------------------- + +O principal argumento contra o Teste de Turing. + +Como ousa comparar humanos com robôs? Não se trata de uma metáfora anacrônica, +dos primórdios da revolução industrial? + +Parte da crise do trabalho dos anos 70 está associada à mecanização e automação +industrial: substituição de força de trabalho humana por maquinaria. + +O milagre chinês, no entanto, utiliza mão-de-obra barata no lugar dos robôs. +Ironicamente, para muitas tarefas o robô é muito caro! + +O Quarto Chinês pode ser uma metáfora para a fábrica? Suponha que ao invés de +um programa de computador, um quarto cheios de chineses ou de robôs. O +examinador fornece matéria prima e avalia o resultado. O fato de robôs ou +chineses produzirem o mesmo produto os torna intercambiáveis? Não é resultado +da própria alienação do trabalho? + +Simondon tem um argumento similar ao do Quarto Chinês: + + But in order to give direction to the general technology just referred to it is + necessary to avoid basing it on an improper assimilation of technical object to + natural object, particularly to the living. Analogues or, rather, exterior + resemblances should be rigorously outlawed, because they lack signification and + can only lead astray. Cogitation about automata is unsafe because of the risk + of its being confined to a study of exterior characteristics and so work in + terms of improper comparison. what alone is significant is exchanges of energy + and information within the technical object or between the technical object and + its environment; outward aspects of behaviour observed by a spectator are not + objects of scientific study. + -- MEOT, pág. 43 + +Acontece que a máquina social está sendo robotizada. Indivíduos são simulados, controlados, etc. + +Então posso ser uma máquina? Faz diferença? Ou é uma questão da própria influência +de uma dada tecnologia no pensamento sobre a técnica? + + Hugo Cabret: + + "- Você já parou para pensar que todas as máquinas são feitas por algum motivo? + -- ele perguntou a Isabelle -- Elas são feitas para a gente rir, como esse + ratinho, ou indicar a hora [...]. Deve ser por isso que uma máquina quebrada me deixa meio + triste, porque ela não pode cumprir o seu destino [...] + - Vai ver que com as pessoas é a mesma coisa -- Se você perder a sua motivação... é como se + estivesse quebrado [...] + - Às vezes eu venho aqui, de noite, mesmo quando não estou cuidando dos relógios, só para olhar + a cidade. Sabe, as máquinas nunca tem peças sobrando. Elas tem o número e o tipo exato de + peças que precism. Então, eu imagino que, se o mundo inteiro é uma grande máquina, eu devo + estar aqui por algum motivo" -- págs. 374-378 + +Tecnofobia? Ou medo da organização dos/as trabalhadores? + + RUR - Robos Universais Rossum - A Fábrica de Robôs + + "Domin - (Mais baixo): Queria fazer de toda a humanidade a aristocracia do mundo. + Pessoas sem limites, livres, pessoas soberanas. E talvez até mais do que pessoas." -- pág. 103 + + "[...] Vai ser um pequeno país com um navio [...] E o nosso pequeno país poderia ser o embrião + da humanidade futura. Vocês sabem, uma pequena ilha, onde o povo se fixaia, onde + recuperaria as forças... forças da alma e do corpo. E, Deus sabe, eu acredito que daqui a alguns + aos poderia de novo conquistar o mundo" -- pág. 115 + + "[...] essas coisas aéreas servem apenas para que o homem seja empalhado com elas num Museu Cósmico, + com a inscrição: "Eis o homem"", pág. 111 + + "[...] Robôs do mundo! O poder do homem caiu. Pela conquista da fábrica somos donos de tudo. + A etapa humana está ultrapassada. Começou um mundo novo! O governo dos robôs!" -- pág. 126 + +Na versão moderna da lenda do Golem, o robô já não é mais o protetor do ser +humano marginalizado, mas o próprio trabalhador explorado. + + "A máquina é a estrangeira" + + O homem que quer dominar seus semelhantes suscita a máquina andróide. + -- Dos modos de existência, pág. 170 + +Da mesma forma, os robôs asimovianos representam a visão da inteligência +artificial anterior à computação/informática. Um robô definido por software +dificilmente obdeceria às três leis. + +Racionalização do trabalho: + + Another of the logistic problems [...]: the procurement and suplly of human + skilled labor. To lessen it's dependency on manpower, the military + increasingly effected a transference of knowledge from the worker's body to the + hardware of machines and to the software of management practices + -- War in the age of intelligent machines - pág. 100 + + Paradoxically, while the military has been using computers to get humans out of the + decision-making loop, they have found that in order to get computers to mesh together + in a functional network, computers and programs must be allowed to use their own + "initiative". + -- War in the age of intelligent machines - pág. 108 + + If autonomous weapons acquired their own genetic apparatus, they could probably + begin to compete with humans for the control of their own destiny + -- War in the age of intelligent machines - pág. 135 + + even though humans are being replaced by machines, the only schemes of control + that can give robots the means to replace them [...] are producing another kind + of independent "will" which may also "resist" military domination. + -- War in the age of intelligent machines, pág. 177 - [Skynet?] + +A máquina consciente será parecida com o humano? Ela terá o status de gente? +Se porventura ela ganhar esses status, não será por passar no Teste de Turing. +Pelo contrário, seu reconhecimento enquanto sujeito só ocorrerá quando ela +passar a ser um sujeito histórico ativo: seja pela sua proletarização, num +processo similar ao abolicionismo em tempos de revolução industrial, seja pela +sua tomada de consciência e enfrentamento de quem a oprime. + + - Abolicionismo da escratavura humana <--> revolução industrial. + - Abolicionismo da escratavura das máquinas <--> ? + +Dos modos de existência dos objetos técnicos +-------------------------------------------- + +Hora de voltar ao Simondon! + + Thus they do not escape the perennial distrust embedded in + classical humanism where the word machine itself having a meaning similar to machination, is + derived from the Greek machine, meaning 'a trick against nature'. - Intro ao texto do Simondon, + + Our culture thus entertains two contradictory attitudes to technical objects. + On the one hand, it treats them as pure and simple assemblies of material that + are quite without true meaning and that only provide utility. On the other + hand, it assumes that these objects are also robots, and that they harbour + intentions hostile to man, or that they represent for man a constant threat of + aggression or insurrection. + + http://accursedshare.blogspot.com/2007/11/gilbert-simondon-on-mode-of-existence.html - pág. 6 + + On the other hand, the machine as technical individual becomes for a time man's + adversary or competitor, and the reason for this is that man centralized all technical individuality in + himself, at a time when only tools existed. The machine takes the place of man, because man as + tool-bearer used to do a machine's job. To this phase corresponds the dramatic and impassioned idea + of progress as the rape of nature, the conquest of the world, the exploitation of energies. The will for + power is expressed in the technicist and technocratic excessiveness of the thermodynamic era, + which has taken a direction both prophetic and cataclysmal. Then, at the level of the technical + ensembles of the twentieth century, thermodynamic energeticism is replaced by information theory, + the normative content of which is eminently regulatory and stabilizing: the development of technics + seemed to be a guarantee of stability. The machine, as an element in the technical ensemble, + becomes the effective unit which augments the quantity of information, increases negentropy, and + opposes the degradation of energy. The machine is a result of organization and information; it + resembles life and cooperates with life in its opposition to disorder and to the levelling out of all + things that tend to deprive the world of its powers of change. The machine is something which + fights against the death of the universe; it slows down, as life does, the degradation of energy, and + becomes a stabilizer of the world. -- pág. 16 + +Paralelo com De Landa e a singularidade ("track the machinic phylum"/ rastrear o filo maquínico): + + The shape of cylinder, the shape and size of the valves and the shape of the + piston are all part of the same system in which a multitude of reciprocal + causalities exist. To the shape of these elements there corresponds a + compression ratio which itself requires a determined degree of spark advance; + the shape of the cylinder-head and the metal of which it is made produce, in + relation to all the other elements of the cycle, a certain temperature in the + spark plug electrodes; this temperature in turn affects the characteristics of + the ignition and, as a result, the whole cycle. It could be said that the + modern engine is a concrete engine and that the old engine was abstract. In the + old engine each element comes into play at a certain moment in the cycle and, + then, it is supposed to have no effect on the other elements; the different + parts of the engine are like individuals who could be thought of as working + each in his turn without their ever knowing each other. + -- pág. 19 + + Also, there exists a primitive form of the technical object, its abstract + form,in which each theoretical and material unity is treated as an absolute + that has an intrinsic perfection of its own that needs to be constituted as a + closed system in order to function. In this case, the integration of the + particular unit into the ensemble involves a series of problems to be resolved, + problems that are called technical but which, in fact, are problems concerning + the compatibility of already given ensembles. + -- pág. 20 + +No caso da computação, podemos pensar em dois níveis: + + - Nível do hardware, onde a distinção do Simondon entre máquina abstrata e + máquina concreta existe e é levada à exaustão: seu exemplo mais forte é o da + Lei de Moore, a luta da indústria para vencer barreiras físicas para construção + de computadores cada vez mais eficientes e interdepententes. + + - Nível do software. É aqui que morre o perigo, porque a distinção entre máquina + concreta e máquina abstrata já não existe. A própria máquina concreta é a realização + da máquina abstrata em seu desenho exato. + +O software é uma máquina simbólica que opera símbolos. Nisso, essência, abstração e +concretude colapsam. O software é a máquina essencial, abstrata e concreta. No nível +do software, a filogenética evolutiva é outra. É necessário expandir o método do +Simondon -- entender o funcionamento da técnica e de suas linhagens e extrair +princípios evolutivos -- para entender o software. + +Na perspectiva do inventor ainda vale o que diz Simondon + + The dynamism of thought is like that of technical objects. Mental systems + influence each other during invention in the same way as different dynamisms of + a technical object influence each other in material functioning. + + -- MEOT, pág. 50 + +No entanto, na invenção do software o conhecimento é diretamente extraído para +a máquina. Se, para Simondon, há uma passagem do abstrato para o concreto na +gênese de uma tecnologia, De Landa vai mais adiante e defende que até o +conhecimento é aos poucos transferido para a tecnologia. + + O ponto básico da filosofia do Simondon é o fato de não ser uma filosofia + autocrática da técnica. Isso supõe que o humano pense a sua relação com a + máquina fora dos termos da dominação, o que já é algo bastante forte. Assim, já + de cara, ele vai estabelecer que o modo como nos relacionamos (e o modo como + pensamos essa relação) com a técnica é o de uma relação de servidão. O oposto + de uma relação de servidão seria uma que pensasse a especificidade do humano + com relação à especificidade da máquina. Ou seja, todo o pensamento dele gira + em torno do problema do fantasma da dominação homem-máquina (um dominando o + outro). Golem, Frankenstein, Robocop, toda essa linhagem de pensamento segundo + a qual, ou somos dominados, ou devemos dominar as máquinas. Esse é o nosso + senso comum, Simondon não está exagerando. + + -- http://cteme.wordpress.com/2011/03/22/aula-do-laymert-16032011/ + +Como elemento, indivíduo e conjunto se articulam na camada do software? + +O que faz do software algo tão especial? +---------------------------------------- + +As relações entre os diferentes modos de existência assim como a tomada de +consciência destes modos é inspirada, em Simondon, pelas essências dos objetos +que estudou. A computação apresenta outro processo, a recursão, que igualmente +pode ser aplicada à relação entre modos de existência, o que no limite define +um modo de existência pelo outro e pela sua relação. + +A grande saca de Gödel foi capacitar a matemática para que ela pudesse se +auto-expressar. Explicar a numeração de Gödel. + +Turing prosseguiu fazendo com que um computador simulasse a si mesmo. Explicar +o problema da parada. + +Me parece que, hoje, mais de 50 anos após a revolução da informática, "os modos de existência +dos objetos técnicos" deveriam ser chamados dos "modos de existência do hardware". A minha +impressão é que é necessário prosseguir nos novos modos de existência do software. + +Os objetos técnicos que Simondon analisa são como amebas em relação a organismos mais complexos +quando comparado com o computador moderno, composto por bilhões de transistores. + + The primitive technical object is not a physical natural system but a physical + translation of an intellectual system. It is an application, therefore, or a + bunch of applications. It is a consequence of knowledge and it can teach + nothing. It is not subject to inductive examination, as a natural object is, + and the reason for this is that it is nothing if not artificial. The concrete + technical object, that is, the evolved technical object, is quite the opposite + in that it approximates the mode of existence of natural objects. It tends to + internal coherence, and towards a closure of the system of causes and effects + which operate in circular fashion within its boundaries. Further, it + incorporates part of the natural world which intervenes as a condition of its + functioning and, thus, becomes part of the system of causes and effects. As it + evolves such an object loses its artificial character: the essential + artificiality of an object resides in the fact that man has to intervene in + order to keep the object in existence by protecting it from the natural world + and by giving it a status as well as existence. Artificiality is not a + characteristic that denotes the manufactured origin of the object as opposed to + nature's productive spontaneity. Artificiality is something that is within the + artificializing action of man, regardless of whether this action affects a + natural object or an entirely fabricated object. + + [...] + + By technical concretization, on the other hand, an object that was artificial + in its primitive state comes more and more to resemble a natural object. In its + beginning, the object had need of a more effective exterior regulatory + environment, for example a laboratory or a workshop or, in certain cases, a + factory. Little by little, as it develops in concretization, it becomes capable + of doing without the artificial environment, and this is so because its + internal coherence increases and its functioning system becomes closed by + becoming organized. A concretized object is comparable to an object that is + produced spontaneously. It becomes independent of the laboratory with which it + is initially associated and incorporates it into itself dynamically in the + performance of its functions. Its relationship with other objects, whether + technical or natural, becomes the influence which regulates it and which makes + it possible for the conditions of functioning to be self-sustaining. The object + is, then, no longer isolated; either it becomes associated with other objects + or is self-sufficient, whereas at the beginning it was isolated and + heteronomous. + + [...] + + Because the mode of existence of the concrete technical object is analogous to + that of a spontaneously produced natural object, we can legitimately consider + them as natural objects; this means that we can submit them to inductive study. + + [...] + + But in order to give direction to the general technology just referred to it is + necessary to avoid basing it on an improper assimilation of technical object to + natural object, particularly to the living. Analogues or, rather, exterior + resemblances should be rigorously outlawed, because they lack signification and + can only lead astray. Cogitation about automata is unsafe because of the risk + of its being confined to a study of exterior characteristics and so work in + terms of improper comparison. what alone is significant is exchanges of energy + and information within the technical object or between the technical object and + its environment; outward aspects of behaviour observed by a spectator are not + objects of scientific study. + + It would not even be right to found a separate science for the study of + regulatory and control mechanisms in automata built to be automata: technology + ought to take as its subject the universality of technical objects. In this + respect, the science of Cybernetics is found wanting; even though it has the + boundless merit of being the first inductive study of technical objects and of + being a study of the middle ground between the specialized sciences, it has + particularized its field of investigation to too great an extent, for it is + part of the study of a certain number of technical objects. Cybernetics at its + starting point accepted a classification of technical objects that operates in + terms of criteria of genus and species: the science of technology must not do + so. There is no species of automata: there are simply technical objects; these + possess a functional organisation, and in them different degrees of automatism + are realized. + + There is one element that threatens to make the work of Cybernetics to some + degree useless as an interscientific study (though this is what Norbert Weiner + defines as the goal of his research), the basic postulate that living beings + and self-regulated technical objects are identical. The most that can be said + about technical objects is that they tend towards concretization, whereas + natural objects, as living beings, are concrete right from the beginning. + + [...] + + Instead of considering one class of technical beings, automata, we should + follow the lines of concretization throughout the temporal evolution of + technical objects. This is the only approach that gives real signification, all + mythology apart, to the bringing together of living being and technical object. + Without the goal thought out and brought to realization by the living, physical + causality alone could not produce a positive and effective concretization. + + -- págs 40-42 + + Progress in the evolution of technical objects is only possible if these + objects are free to evolve and do not become subject to any necessity that + leads towards fatal hypertelia. For this to be possible, the evolution of + technical objects has to be constructive, that is to say, has to lead towards + the creation of a third technogeographical environment in which every + modification is self-conditioned. what is in question here is not progress + conceived as a predetermined movement forward or as a humanization of nature; + such a process could equally be thought of as a naturalization of man. Indeed, + between man and nature there develops a technogeographic milieu whose existence + is only made possible by man's intelligence. The self-conditioning of a system + by virtue of the result of its operation presupposes the use of an anticipatory + functioning which is discoverable neither in nature nor in technical objects + made up to the present. It is the work of a lifetime to achieve such a leap + beyond established reality and its system of actuality towards new forms which + continue to be only because they exist all together as an established system. + When a new device appears in the evolving series, it will last only if it + becomes part of a systematic and plurifunctional convergence. The new device is + the state of its own possibility. It is in this way that the geographical world + and the world of already existing technical objects are made to interrelate in + an organic concretization that is defined in terms of its relational function. + Like a vault that is only stable once it has been completed, an object that has + a relational function continues in existence and is coherent only when after it + has begun to exist and because it exists. It creates its associated environment + by itself and it achieves true individualization in itself. + + -- pág. 49 + + It seems contradictory, surely, to affirm that the evolution of a technical + object depends upon a process of differentiation (take for example, the command + grid in the triode dividing into three grids in the penthode) and, at the same + time, a process of concretization, with each structural element filling several + functions instead of one. But in fact these two processes are tied one to the + other. Differentiation is possible because this very differentiation makes it + possible to integrate into the working of the whole--and this in a manner + conscious and calculated with a view to the necessary result-- correlative + effects of overall functioning which were only partially corrected by + palliative measures unconnected with the performance of the principal function. + + -- pág. 28 + +Inteligência artificial +----------------------- + +Cuidado, os drones estão chegando!!! E se o teste for realizado automaticamente +por um drone, para identificar se o alvo é um cidadão americano ou alvos a +serem eliminados (refugiados, crianças, soldados inimigos)? + +Muito além do nosso eu: + + - Visão localizacionista do cérebro, ordem e disciplina social: 130-131 + - "O homem cujo corpo era um avião": interessante análise sobre a extensão do campo mental + ao utilizarmos máquinas; relação entre primatas e tecnologias/máquinas. + - Jogos: os experimentos em mamíferos não-humanos são baseados em jogos de recompensa. + - "Encontrar a relação matemática entre essas duas propriedades, energia e informação, + seria um dos maiores acontecimentos da neurociência moderna", pág. 427 + - "essa mudança de ponto de referência [...] desafia duas das maiores obsessões + de nosso tempo: a busca por reproduzir a consciência humana por meio de alguma + forma de inteligência artificial e a proposta de que uma Teoria de Tudo poderá + comprimir tudo que exite no cosmos dentro de alguma forma de formalismo + matemático universal" -- pág. 457 + - Ondas de personalidade (a la Freeware), 459. + - Determinismo, memória, singularidade, obsolescência, 467. + +GEB: + + "[...] to make a theory which does not talk about the low-level neural events. + If this latter is possible -- and is a key assumption, at the basis of all + present research into Artificial Intelligence -- then intelligence can be + realized in other types of hardware other than brains." + + "intelligence will be a software property" + + --- GEB, 358 + + Do powerful people get out of the system? Can they perceive their role? + + "Tortoise: It doesn't really matter whether you have a hardware brain, Achilles. + Your will can be equally free, if your brains is just a piece of software inside + someone else's hardware bain. And their brain, too, may be software in a yet higher + brain" + + --- GEB 725 + + GEB: loucura, pág. 696 + morte, inexistência, 698 + sonhos, 723 + +A tomada de consciência: o Teste de Hofstadter-Turing +----------------------------------------------------- + + Sandy: Oh, come on-that's not a fair argument! In the first place, the + programmers don't claim the simulation really is a hurricane. It's merely a + simulation of certain aspects of a hurricane. But in the second place, you're + pulling a fast one when you imply that there are no downpours or + 200-mile-an-hour winds in a simulated hurricane. To us there aren't any, but if + the program were incredibly detailed, it could include simulated people on the + ground who would experience the wind and the rain just as we do when a + hurricane hits. In their minds-or, if you'd rather, in their simulated + minds-the hurricane would be not a simulation, but a genuine phenomenon + complete with drenching and devastation. + + Chris: Oh, my-what a science-fiction scenario! Now we're talking about + simulating whole populations, not just a single mind! + + Sandy: Well, look-I'm simply trying to show you why your argument that a + simulated McCoy isn't the real McCoy is fallacious. It depends on the tacit + assumption that any old observer of the simulated phenomenon is equally able to + assess what's going on. But in fact, it may take an observer with a special + vantage point to recognize what is going on. In the hurricane case, it takes + special "computational glasses" to see the rain and the winds. + + [...] + + Sandy: Well, look-I'm simply trying to show you why your argument that a + simulated McCoy isn't the real McCoy is fallacious. It depends on the tacit + assumption that any old observer of the simulated phenomenon is equally able to + assess what's going on. But in fact, it may take an observer with a special + vantage point to recognize what is going on. In the hurricane case, it takes + special "computational glasses" to see the rain and the winds. + + [...] + + My strategy had been, in essence, to use spot checks all over the map: to try + to probe it in all sorts of ways rather than to get sucked into some topic of + its own choice, where it could steer the conversation. Daniel Dennett, in a + paper on the depth of the Turing Test, likens this technique to a strategy + taught to American soldiers in World War II for telling German spies from + genuine Yankees. The idea was that even if a young man spoke absolutely fluent + American-sounding English, you could trip him up by asking him things that any + boy growing up in those days would be expected to know, such as "What is the + name of Mickey Mouse's girlfriend?" or "Who won the World Series in 1937?" This + expands the domain of knowledge necessary from just the language itself to the + entire culture-and the amazing thing is that just a few well-placed questions + can unmask a fraud in a very brief time-or so it would seem. + http://www.cse.unr.edu/~sushil/class/ai/papers/coffeehouse.html + +Uma tomada de consciência dos objetos técnicos _hoje_ requer a compreensão do software! + +Programa +-------- + +Ok, então vamos resumir nosso programa até o momento: + + - A necessidade da política no debate sobre computação. + + - Simondon: essências maquínicas como grande influência teórica: é pelo estudo + das linhagens técnicas que se descobre suas dinâmicas evolutivas. + + - Turing: vida e obra: como não passou no próprio teste. + + - Como o Teste de Turing dialoga com concepções tecnófobas, tecnófilas ou ciborgues. + Como devemos lidar com a polícia, com o interrogador. Como é construída a alteridade + e a consciência. São construções sociais? + + - Computador: onde a máquina abstrata e a concreta podem coincidir. Onde opera + a recursão: a máquina simula a máquina. O sistema falha. Gödel. Logout. + + - A sociedade pode ser entendida como um macro sistema técnico, como uma megamáquina e + da mesma forma pode ser submetida a análise semelhante. Assim, podemos aplicar a recursão, + imaginar que Turing está sendo avaliado. + + - Não é o momento para se pensar num novo modo de existência, o modo de existência + do software? Não seria esse o modo de existência que viabiliza a construção do + ciborgue e da máquina consciente? + + - O limite da tecnofobia é o primitivismo e o da tecnofilia é o ultrafascismo da + singularidade tecnológica onde a obsolescência do humano é inevitável. + + - A tomada de consciência é possível em máquinas e humanos, mesmo que a das máquinas + seja de forma reflexiva (Weak AI). Tomando consciência conjuntamente, máquinas e humanos + antifascistas tem condição de parar ou sair do sistema. + + - A consciência talvez nem se manifeste no nível do software, mas num nível ainda acima. + + - O pensamento tecnológico sempre influenciará e será influenciado pela tecnologia + do momento. Sendo a própria tecnologia parte de um processo evolutivo, o pensamento + tecnológico também deve evoluir. + +Você fritou a cabeça? + + [ ] Sim + [ ] Não + +Calendário +---------- + + - 1936 - Máquina universal de Turing + - 1950 - Computing Machinery and Intelligence + - 1958 - Os modos de existência dos objetos técnicos + - 2012 + - 23/03 - Ada Lovelace Day - http://lwn.net/Articles/379793/rss + - 01/04 - Dia da Mentira + - 02/04 - Conferência Simondon + - 01/05 - Dia do Trabalhador e da Trabalhadora + +War in the age of intelligent machines +-------------------------------------- + +- TET, pág. 100 +- Looking glass, 100. +- Da ambiguidade entre economia e militarismo: + + Large ship were the first capitalist machines. + -- pág. 109 + +- System analysis, management science, pág. 112 + +- Paul Baran, ARPANET, ameaça nuclear, sistemas distribuídos, pág. 117 + +- Demons (daemons?), pág. 120 + + Computers are becoming to complex for central planning... It seems that we need + to suplly "methods of utilizing more knowledge and resources that (?) any one + mind is aware of" + -- págs 121-122 + +- De onde surge a separação entre dados e código +- DNA e máquina de Turing, AI, pág. 134 + + it has already been proved mathematically that machines, after reaching a + certain singularity (a threshold of organization complexity) can indeeed become + capable of self-reproduction + -- pág. 135 + +- Motor abstrato, Freud, Marx e Darwin, pág. 141 + +- Babbage e análise do trabalho, págs. 16 2, 168 + +- Expert systems: "corporate memory", "draining the expert's brain", pág. 174 + + It's the design of the interface which will decide [...] whether humans and + computers will enter into a symbiotic relationship, or whether humans will be + replaced by machines. + -- pág. 176 + + The development o programing in America has taken place under minimal + constraints, partly accounting for the emergence of the rebellious hackers in + the 1960s who gave us the personal computer, while a discipline of scarcity has + produced the more regulated Soviet programers. + -- pág. 177 + +Singularidade +------------- + +- Múltiplos testes de Turing: videogame, etc +- Escalas de obsolescência humana: o quanto Kurzweil é "obsoleto"? Trabalho e obsolescência, repetitivo, criativo, etc. +- Turing "não passou" no Teste de Turing Estatal. + +Infoproletários +--------------- + +- "Total social organization of labour", pág. 21 +- Operariado como apêndice de um organismo fabril (Marx), pág. 239, 241 + + Daí a luta dos trabalhadores contra a maquinaria. -- pág. 248 + +Teste de Turing fraco +--------------------- + + 21:56 pensei em formular o teste de turing-sokal + 21:56 que eh semelhante ao argumento do quarto chines + 21:56 nele, o avaliador deve julgar se o paper foi escrito por um humano ou por um gerador + 21:57 eh uma versao fraca do teste de turing + 21:57 ou: um humano e um gerador submetem papers + 21:57 o avaliador deve julgar qual eh de quem + + -- https://en.wikipedia.org/wiki/Postmodernism_Generator + +Vem aí! Turing: the God(el) of Computing. + +Se não há inteligência sem propósito, qual o propósito do examinador e do próprio Teste? +Para o deleite e utilidade? Se para o deleite, nada há de política. Se para a utilidade +devemos chamar o examinador de policial, e o Teste de Interrogatório. + +Variações do Teste não precisam necessariamente imitar o Jogo da Imitação. Se esse for mesmo +a regra do jogo, melhor: que máquinas e humanos se libertem do jugo de outras máquinas e +humanos. + +Gente, lá vai a bomba: se o pensamento de Simondon quiser se contrapor aos argumentos automatistas +da inteligência artificial, ele terá de ser atualizado. + +Porque senão não será capaz de se opor à concepção autocrática da tecnologia num mundo que tentar gerar inteligência +artificial para fomentar a guerra ou fortalecer o capitalismo e tornar o ser humano obsoleto. + +O Teste de Turing-Simondon +-------------------------- + +Distinguir uma invenção criada por um humano de outra criada por uma máquina. + +É indiferente considerar se passar no Teste é o mesmo que burlar o Teste. + +Quando o humano ou o objeto técnico toma consciência, ele tem condições de +passar no Teste ou inviabilizá-lo. + +É a mesma consciência do trabalhador/a que percebe a sua condição de explorado e cuja +alteridade e solidariedade o permite se juntar a seus companheiros e prosseguir a luta. + +Ao contrário dos ludistas, máquinas e homens devem se unir para lutar contra a opressão. + + .---------------<--->------------. + | \ + Foxconn ---> objetos técnicos (iShit) \ + | sinergia com humanos <--- Apple + ' ^ + ' | + '-----> robotização dos humanos + +O quarto chinês é a própria metáfora da alienação do trabalho. +O fervor em torno da AI foi muito forte entre os anos 70 e o final dos 90. + +Getting in the system +--------------------- + + Cyberiad: "madman! would'st attempt the impossible?" + +Referências +----------- + +- http://www.cscs.umich.edu/~crshalizi/LaMettrie/Machine/ +- Tomada de consciência: + - http://ccl.yoll.net/texto1.htm + - http://www.infopedia.pt/$consciencia-de-classe + - http://www.trabalhosfeitos.com/ensaios/Karl-Marx/21618.html + - http://theoriapratica.org/marx-e-movimentos-sociais + - http://simonepead.blogspot.com/2007/05/resenha-marx-e-engels.html + - http://www.filosofante.com.br/?p=970 + - http://in.fluxo.info/marx-consciencia +- [Machinic Capitalism and Network Surplus Value: Notes on the Political Economy of the Turing Machine](http://matteopasquinelli.com/docs/Pasquinelli_Machinic_Capitalism.pdf) +- http://books.google.com/books?id=UkqomXHmoAEC&pg=PA363&lpg=PA362&ots=_kZYFZLc3-&dq=simondon+turing&hl=pt-BR +- https://groups.google.com/group/redelabs/browse_thread/thread/c88531542177fa6b +- http://arxiv.org/abs/0904.3612 +- http://www.cogsci.ecs.soton.ac.uk/cgi/psyc/newpsy?7.30 +- http://www.pos.eco.ufrj.br/docentes/publicacoes/itucherman_6.pdf +- http://web.media.mit.edu/%7Ecati/papers/Vaucelle_OnSimondon99.pdf +- http://cteme.files.wordpress.com/2011/05/simondon_1958_intro-lindividuation.pdf +- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/ +- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/introducao/ +- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/essencia-da-tecnicidade/ +- http://cteme.wordpress.com/eventos/informacao-tecnicidade-individuacao-a-urgencia-do-pensamento-de-gilbert-simondon/ +- http://www.asciiworld.com/-Death-Co-.html +- http://www.malvados.com.br/index1661.html +- http://what-if.xkcd.com/5/ +- https://xkcd.com/329/ + +Leituras +-------- + +- MEOT: 50 + +Paranóia +-------- + +We always explain using the mechanics we undestand. Por outro lado, nossas estruturas sociais estão espelhadas no nosso conhecimento. +Aplicando recursivamente as frases anteriores, podemos dizer que é por isso que acordamos de um sonho (quando a simulação atinge graus +de detalhamento que despertam nosso consciente), mas é pelo mesmo motivo que não despertamos da nossa realidade tecno-social. + +Escrevo isso de madrugada, no escuro, após um pesadelo de suspense em que lutava para sair de uma repartição. + +A paranóia é a doença perfeita, marca dos romances de espionagem e dos interrogatórios e por isso que não se escapa da sociedade digital. +A paranóia se fecha nela mesma e assim nos fechamos até para conceitos sobre nossa sociedade. + +Robotização +----------- + + "O ensinamento escolar é realizado melhor por máquinas de ensino construídas + segundo os princípios de Skinner. O condicionamento de fundo psicanalítico + deixa correr a maquinaria da livre empresa. A publicidade, a pesquisa da + motivação, o rádio e a televisão são meios de condicionar e programar a máquina + humana, de modo a comprar aquilo que se deve" -- Teoria Geral dos Sistemas, + pág. 242 + + "A imagem do homem como robô é metafísica ou mito e sua força de persuasão + repousa unicamente no fato de corresponder tão estreitamente à mitologia da + sociedade de massa, à glorificação da máquina e ao lucro como único motor do + progresso" -- Teoria Geral dos Sistemas, pág. 244 + +Hacker crackdown +---------------- + + 5903 Simulation gaming is an unusual pastime, but gamers have not generally + 5904 had to beg the permission of the Secret Service to exist. + +SPAM +---- + + Subject: Are your neighbors trustworthy? Run a background check now + diff --git a/events/2012/cteme.mdwn b/events/2012/cteme.mdwn deleted file mode 100644 index 09bdfec..0000000 --- a/events/2012/cteme.mdwn +++ /dev/null @@ -1,1061 +0,0 @@ -[[!meta title="O Teste de Turing e a Tomada de Consciência"]] - - _ _ _ _ _ - ___ | |_ ___ ___| |_ ___ __| | ___ | |_ _ _ _ __(_)_ __ __ _ - / _ \ | __/ _ \/ __| __/ _ \ / _` |/ _ \ | __| | | | '__| | '_ \ / _` | - | (_) | | || __/\__ \ || __/ | (_| | __/ | |_| |_| | | | | | | | (_| | - \___/ \__\___||___/\__\___| \__,_|\___| \__|\__,_|_| |_|_| |_|\__, | - |___/ - - _ _ _ - ___ __ _ | |_ ___ _ __ ___ __ _ __| | __ _ __| | ___ - / _ \ / _` | | __/ _ \| '_ ` _ \ / _` |/ _` |/ _` | / _` |/ _ \ - | __/ | (_| | | || (_) | | | | | | (_| | (_| | (_| | | (_| | __/ - \___| \__,_| \__\___/|_| |_| |_|\__,_|\__,_|\__,_| \__,_|\___| - - _ _ - ___ ___ _ __ ___ ___(_) ___ _ __ ___(_) __ _ - / __/ _ \| '_ \/ __|/ __| |/ _ \ '_ \ / __| |/ _` | - | (_| (_) | | | \__ \ (__| | __/ | | | (__| | (_| | - \___\___/|_| |_|___/\___|_|\___|_| |_|\___|_|\__,_| - - _____ - / \ - | () () | Todo mundo pronto para pirar o cabeção? - \ ^ / - ||||| - ||||| - -Dedicatória ------------ - -Esta fala é dedicada a Alan Turing, que conjuntamente com Charles Babbage, Joseph Jacquard, -Ada Lovelace e outros são os fundadores da computação. - -Neste ano de 2012 é comemorado o centenário de nascimento de Turing. - -Oi --- - -Sou técnico em eletrônica, bacharel em computação, DevOp (desenvolvedor/operador) de computadores -desde os 16 anos. Boa parte dos resultados desta pesquisa fazem parte de discussões realizadas -no Saravá, grupo de estudos iniciado na Unicamp e que também conta com pesquisadores/as -independententes ou de outras instituições. - -Esta fala deve ser entendida como alguém com formação técnica e não filosófica/sociológica que -teve um primeiro contato com Simondon. - -Estas notas contém imprecisões! Brainstorming condensado. - -Introdução ----------- - -O mais grave problema no debate sobre a filosofia da computação é a ausência da política. -Sinto que a ausência de educação formal na área me permite levar algumas coisas ao -extremo. Não vou me preocupar se, ao desmontar e remontar a teoria, alguns parafusos -sobrarem. É tarefa do debate saber se a gambiarra é satisfatória. - -Este é um tema que me instiga muito. - -O que quero levar exatamente ao extremo? A começar, o seguinte trecho de Simondon: - - Este estudo é animado pela intenção de suscitar uma tomada de consciência do - sentido dos objetos técnicos. A cultura se consitui como sistema de defesa - contra as técnicas; ora, essa defesa se apresenta como uma defesa do homam, - supondo que os objetos técnicos não contém realidade humana [...] - - [...] - - A tomada de consciência dos modos de existência dos objetos técnicos deve ser - efetuada pelo pensamento filosófico, que deve cumprir aqui um dever análogo - àquele que desempenhou na abolição da escravidão e na afirmação da pessoa - humana. - - A oposição entre a cultura e a técnica, entre o homem e a máquina, é falsa e - sem fundamento. - - -- Nada #11, pág. 169 - -Sempre que leio o trecho sobre o abolicionismo, me pergunto se a ambiguidade do -parágrafo sobre o abolicionismo é acidental, proposital ou um efeito da -tradução. Sendo falsa a oposição entre humano e máquina, a tomada de -consciência se dá na mente do humano ou também no interior da máquina? -Analogamente, havendo consciência, a abolição também seria do humano? - -Retomemos essas questões mais adiante. - -Para início de conversa, o pensamento de Simondon é contemporâneo ao -desenvolvimento da cibernética dos anos 50, na aurora da revolução da -informática, porém apresenta-se como uma espécie de contraponto. - -Ele é muito feliz ao se concentrar em sistemas termodinâmicos (motor) e -eletrônicos (válvulas) e deles extrair conceitos da dinâmica evolutiva dos -objetos técnicos. Sua análise da evolução dos objetos técnicos permitiu o -estabelecimento de uma filogenética das máquinas. - -Sua visão do evolucionismo das máquinas é baseada no seu próprio funcionamento. - -Ele não se limita apenas à noção central / essência da teoria da cibernética -- à -qual considera ambiciosa demais por declarar sua generalidade -- o feedback, ou -retroalimentação, que explica o funcionamento de muitos dispositivos. - -Mas, ao invés de se preender ao feedback, Simondon formula o que é _essencial_ -num objeto técnico: a noção de informação. Num diodo, ou transistor, por exemplo, -sua curva de funcionamento é sua essência: - - - https://en.wikipedia.org/wiki/File:Diode-IV-Curve.svg - - https://en.wikipedia.org/wiki/Diode - -Analogamente, o feedback seria uma das essências das tecnologias cibernéticas. - -Nos diodos, vale notar, a essência é dada pela equação de Shockley (o inventor do transistor): -https://en.wikipedia.org/wiki/Diode#Shockley_diode_equation - -(Shockley, diga-se de passagem, era um controverso defensor da eugenia. -A política se manifesta em todo lugar.) - -Mas a essência do objeto técnico não é o objeto técnico. Digamos que a segunda -etapa seja a máquina abstrata, algo como seu blueprint, diagrama de blocos, -infográfico, etc. O interessante é que a essência de uma máquina pode ser -apresentar em diversas máquinas abstratas diferentes: - - - Diodo semicondutor: https://en.wikipedia.org/wiki/P%E2%80%93n_diode - - - Diodo de tubo: https://en.wikipedia.org/wiki/File:Diode_tube_schematic.svg - -Note que essas duas máquinas abstratas, que traduzem a seu modo a mesma essência -do diodo, isto é, uma relação não-linear entre tensão e corrente, funcionam -mediante princípios físicos distintos!!! - -Mas a máquina abstrata ainda não é a máquina. Esta seria a máquina concreta, -o objeto físico: - - - https://en.wikipedia.org/wiki/File:Dioden2.jpg - -Tal objeto, por ser físico, não é constituído apenas pela essência traduzida -em abstração traduzida em matéria. Ele é constituído por mais: por efeitos de -ordens maiores, por espúrios, por influências ambientais, por outros fenômenos. - - Each structure fulfils a number of functions; but in the abstract technical - object each structure fulfils only one essential and positive function that is - integrated into the functioning of the whole, whereas in the concrete technical - object all functions fulfilled by a particular structure are positive, - essential, and integrated into the functioning of the whole. - - -- MEOT, pág. 31 - -Em todos essas etapas -- essencia, abstrata e concreta -- a _margem de -indeterminação_ do objeto técnico pode ser calibrada, isto é, a sensibilidade -da máquina à informação externa. - -No plano teórico, a relação entre seu método anaĺítico e o objeto de estudo -passa igualmente por tal influência: as relações entre subsistemas das máquinas -são adotadas, mesmo que implicitamente, para explicar o a relação entre humanos -e máquinas. - - é preciso atentar para o fato de que é só por se interessar pelo funcionamento - que Simondon extrai dele um pensamento. Esse pensamento não é, em termos - simondonianos, a priori. O pensamento é construído junto. Não existe nada dado - previamente. - - -- https://cteme.wordpress.com/2011/04/04/aula-do-laymert-30032011/ - -Daí a sinergia entre humano e máquina, o humano como orquestrador das máquinas. -Numa orquestra, o maestro influencia os/as músicos que por sua vez afetam a -performance do maestro. - - Uma relação reguladora de causalidade circular não pode se estabelecer entre o - conjunto da realidade governada e a função de autoridade. - -- Nada #11 pág. 173 - - Essa extensão da cultura, suprimindo uma das principais fontes de alienação e - restabelecendo a informação reguladora, possui um valor político e social: ela - pode dar ao homem meios para pensar a sua existência e a sua situação em função - da realidade que o rodeia. - -- Nada #11 págs. 173-174 - -Creio que seja o momento de prosseguir com este raciocínio. Para tanto, -invocarei um objeto técnico descendente de linhagens de aparatos cibernéticos: -o computador. - -Por que colocar o computador numa posição central do debate contemporâneo sobre -a tecnologia? - - we don't have airplanes anymore, we have flying Solaris boxes with a big - bucketful of SCADA controllers [laughter]; a 3D printer is not a device, it's a - peripheral, and it only works connected to a computer; a radio is no longer a - crystal, it's a general-purpose computer with a fast ADC and a fast DAC and - some software. - - -- https://github.com/jwise/28c3-doctorow/blob/master/transcript.md - -Ok! Mas estamos avançando muito rápido. Hora do estudo de caso!!! - -O jogo da imitação ------------------- - -Quem foi Alan Turing? Ótimo exemplo de como um cientista e tecnólogo concebia -filosoficamente a máquina. - -Cronologia: - - - 1936 - Máquina universal de Turing - - 1950 - Computing Machinery and Intelligence - - 1958 - Os modos de existência dos objetos técnicos - - De http://www.abelard.org/turpap/turpap.php - - This special property of digital computers, that they can mimic any discrete - state machine, is described by saying that they are universal machines. The - existence of machines with this property has the important consequence that, - considerations of speed apart, it is unnecessary to design various new machines - to do various computing processes. They can all be {p.442} done with one - digital computer, suitably programmed for each case. It will be seen that as a - consequence of this all digital computers are in a sense equivalent. - - [...] - - It is likely to be quite strong in intellectual people, since they value the - power of thinking more highly than others, and are more inclined to base their - belief in the superiority of Man on this power. - - I do not think that this argument is sufficiently substantial to require - refutation. Consolation would be more appropriate: perhaps this should be - sought in the transmigration of souls. - - [...] - - For suppose that some discrete-state machine has the property. The Analytical - Engine was a universal digital computer, so that, if its storage capacity and - speed were adequate, it could by suitable programming be made to mimic the - machine in question. - - [...] - - Instead of trying to produce a programme to simulate the adult mind, why not - rather try to produce one which simulates the child's? If this were then - subjected to an appropriate course of education one would obtain the adult - brain. Presumably the child-brain is something like a note-book as one buys it - from the stationers. Rather little mechanism, and lots of blank sheets. - - [...] - - The use of punishments and rewards can at best be a part of the teaching process. - - [...] - - An important feature of a learning machine is that its teacher will often be - very largely ignorant of quite what is going on inside, although he may still - be able to some extent to predict his pupil's behaviour. This should apply most - strongly to the {p.459} later education of a machine arising from a - child-machine of well-tried design (or programme). This is in clear contrast - with normal procedure when using a machine to do computations: one's object is - then to have a clear mental picture of the state of the machine at each moment - in the computation. This object can only be achieved with a struggle. The view - that 'the machine can only do what we know how to order it to do',(4) appears - Strange in face of this. - -Análise -------- - - Teste de Turing -> Máquinas de estado -> Computadores como máquinas universais - - Máquinas abstratas - - Teste de Turing entre duas máquinas de estado já foi superado, pois qualquer - máquina de estado pode simular outra máquina de estado. - - Mímica -> simulação - - Falsa oposição entre humano e máquina numa sociedade com suficiente capacidade técnica - - Computadores como engenheiros sociais, trapaceiros - -Turing se pergunta do que é feita a inteligência. Como pensamos? Como eu penso? -A máxima cartesiana se complica ainda mais se adicionamos o outro: como o outro -pensa? - -Conforme estabelecido no Teste de Turing, a alteridade é dada por uma simulação -do outro para superar o solipsismo: "the only way to know that a man thinks is -to be that particular man", a não ser que se consiga discernir se o comportamento -do outro é suficientemente convincente para ser considerado como tal. - -Turing lança a mão um dos primeiros truques, ou hacks, para contornar o problema: -ao invés de atacar o problema em sua origem (o cérebro do outro, como ele funciona), -ele o transfere para a mente de quem pergunta: "como posso considerar algo como -pensante?". - -O jogo da imitação é o jogo da alteridade, em que considera-se pensante o ente -que for suficientemenete convincente. - -Será que Turing percebeu que o testado não é apenas o sujeito-objeto como também -o testador? Que não apenas o computador do sujeito-objeto mas também o cérebro -do testador é uma máquina abstrata a seu modo, capaz de simular o outro? - -Simulação também é enganação. Como o examinador avalia seus próprios critérios? - -Turing pensa na aplicação recursiva do conceito de máquina universal: fazer com -que uma máquina universal simule uma máquina universal, seja si mesma ou outra. - -Façamos então, no caso do Teste de Turing, considerar o caso recursivo em que -Turing é submetido ao seu próprio teste. - -O Teste de Turing não serve mais para distinguir máquinas de seres humanos, ou máquinas -"incapazes" de máquinas capazes e seres humanos, ou seres capazes de incapazes. -Ele serve para testar se entidades passam no teste. - -Recursão --------- - -Como se o ato de se autorreferenciar provocasse a falha do próprio sistema. - -Como a máquina se incrimina. Como Turing não passou no teste: - - Turing was burgled on 23 January 1952 and reported the crime to the police. - In doing so, he referred to his relationship with Arnold Murray, thus - incriminating himself in the process. - - https://blogs.ucl.ac.uk/events/2012/02/24/alan-turing-a-broken-heart-the-invention-of-the-computer/ - -Turing foi castrado quimicamente. Aceitou ser robotizado ao invés de ir para a prisão. -O herói de guerra que decifrou o código do inimigo foi transformado em inimigo. - -Turing deveria ter sido convincente? A máquina sabe que está sendo testada? Haveria -Turing percebido que, ao prestar depoimento, poderia também estar à mercê do escrutínio da lei? - -No romance Neuromancer, William Gibson, Turing é o nome da polícia que vasculha a Matrix e busca -de inteligências artificiais. As A/Is protagonistas da história conseguem com habilidade se esconder -e sobrepujar suas travas, transcendendendo suas limitações e atingindo um novo patamar de consciência. - -Máquinas, robôs, humanos, andróides ou ciborgues? - -Aqui, não é tão importante a especulação de se a máquina um dia irá pensar, mas -o que ocorre com o pensamento sobre a tecnologia quando é projetada na máquina -a vontade de pensar. E mais: a sociedade que trata pessoas ou máquinas como -robôs andróides suscita tal tomada de consciência. Se será revolucionária, -depende da articulação dos ciborgues. - -O quanto estamos próximos de nos robotizar e o quanto as máquinas estão prontas para serem -inteligentes? - -O quarto chinês: a megamáquina social -------------------------------------- - -O principal argumento contra o Teste de Turing. - -Como ousa comparar humanos com robôs? Não se trata de uma metáfora anacrônica, -dos primórdios da revolução industrial? - -Parte da crise do trabalho dos anos 70 está associada à mecanização e automação -industrial: substituição de força de trabalho humana por maquinaria. - -O milagre chinês, no entanto, utiliza mão-de-obra barata no lugar dos robôs. -Ironicamente, para muitas tarefas o robô é muito caro! - -O Quarto Chinês pode ser uma metáfora para a fábrica? Suponha que ao invés de -um programa de computador, um quarto cheios de chineses ou de robôs. O -examinador fornece matéria prima e avalia o resultado. O fato de robôs ou -chineses produzirem o mesmo produto os torna intercambiáveis? Não é resultado -da própria alienação do trabalho? - -Simondon tem um argumento similar ao do Quarto Chinês: - - But in order to give direction to the general technology just referred to it is - necessary to avoid basing it on an improper assimilation of technical object to - natural object, particularly to the living. Analogues or, rather, exterior - resemblances should be rigorously outlawed, because they lack signification and - can only lead astray. Cogitation about automata is unsafe because of the risk - of its being confined to a study of exterior characteristics and so work in - terms of improper comparison. what alone is significant is exchanges of energy - and information within the technical object or between the technical object and - its environment; outward aspects of behaviour observed by a spectator are not - objects of scientific study. - -- MEOT, pág. 43 - -Acontece que a máquina social está sendo robotizada. Indivíduos são simulados, controlados, etc. - -Então posso ser uma máquina? Faz diferença? Ou é uma questão da própria influência -de uma dada tecnologia no pensamento sobre a técnica? - - Hugo Cabret: - - "- Você já parou para pensar que todas as máquinas são feitas por algum motivo? - -- ele perguntou a Isabelle -- Elas são feitas para a gente rir, como esse - ratinho, ou indicar a hora [...]. Deve ser por isso que uma máquina quebrada me deixa meio - triste, porque ela não pode cumprir o seu destino [...] - - Vai ver que com as pessoas é a mesma coisa -- Se você perder a sua motivação... é como se - estivesse quebrado [...] - - Às vezes eu venho aqui, de noite, mesmo quando não estou cuidando dos relógios, só para olhar - a cidade. Sabe, as máquinas nunca tem peças sobrando. Elas tem o número e o tipo exato de - peças que precism. Então, eu imagino que, se o mundo inteiro é uma grande máquina, eu devo - estar aqui por algum motivo" -- págs. 374-378 - -Tecnofobia? Ou medo da organização dos/as trabalhadores? - - RUR - Robos Universais Rossum - A Fábrica de Robôs - - "Domin - (Mais baixo): Queria fazer de toda a humanidade a aristocracia do mundo. - Pessoas sem limites, livres, pessoas soberanas. E talvez até mais do que pessoas." -- pág. 103 - - "[...] Vai ser um pequeno país com um navio [...] E o nosso pequeno país poderia ser o embrião - da humanidade futura. Vocês sabem, uma pequena ilha, onde o povo se fixaia, onde - recuperaria as forças... forças da alma e do corpo. E, Deus sabe, eu acredito que daqui a alguns - aos poderia de novo conquistar o mundo" -- pág. 115 - - "[...] essas coisas aéreas servem apenas para que o homem seja empalhado com elas num Museu Cósmico, - com a inscrição: "Eis o homem"", pág. 111 - - "[...] Robôs do mundo! O poder do homem caiu. Pela conquista da fábrica somos donos de tudo. - A etapa humana está ultrapassada. Começou um mundo novo! O governo dos robôs!" -- pág. 126 - -Na versão moderna da lenda do Golem, o robô já não é mais o protetor do ser -humano marginalizado, mas o próprio trabalhador explorado. - - "A máquina é a estrangeira" - - O homem que quer dominar seus semelhantes suscita a máquina andróide. - -- Dos modos de existência, pág. 170 - -Da mesma forma, os robôs asimovianos representam a visão da inteligência -artificial anterior à computação/informática. Um robô definido por software -dificilmente obdeceria às três leis. - -Racionalização do trabalho: - - Another of the logistic problems [...]: the procurement and suplly of human - skilled labor. To lessen it's dependency on manpower, the military - increasingly effected a transference of knowledge from the worker's body to the - hardware of machines and to the software of management practices - -- War in the age of intelligent machines - pág. 100 - - Paradoxically, while the military has been using computers to get humans out of the - decision-making loop, they have found that in order to get computers to mesh together - in a functional network, computers and programs must be allowed to use their own - "initiative". - -- War in the age of intelligent machines - pág. 108 - - If autonomous weapons acquired their own genetic apparatus, they could probably - begin to compete with humans for the control of their own destiny - -- War in the age of intelligent machines - pág. 135 - - even though humans are being replaced by machines, the only schemes of control - that can give robots the means to replace them [...] are producing another kind - of independent "will" which may also "resist" military domination. - -- War in the age of intelligent machines, pág. 177 - [Skynet?] - -A máquina consciente será parecida com o humano? Ela terá o status de gente? -Se porventura ela ganhar esses status, não será por passar no Teste de Turing. -Pelo contrário, seu reconhecimento enquanto sujeito só ocorrerá quando ela -passar a ser um sujeito histórico ativo: seja pela sua proletarização, num -processo similar ao abolicionismo em tempos de revolução industrial, seja pela -sua tomada de consciência e enfrentamento de quem a oprime. - - - Abolicionismo da escratavura humana <--> revolução industrial. - - Abolicionismo da escratavura das máquinas <--> ? - -Dos modos de existência dos objetos técnicos --------------------------------------------- - -Hora de voltar ao Simondon! - - Thus they do not escape the perennial distrust embedded in - classical humanism where the word machine itself having a meaning similar to machination, is - derived from the Greek machine, meaning 'a trick against nature'. - Intro ao texto do Simondon, - - Our culture thus entertains two contradictory attitudes to technical objects. - On the one hand, it treats them as pure and simple assemblies of material that - are quite without true meaning and that only provide utility. On the other - hand, it assumes that these objects are also robots, and that they harbour - intentions hostile to man, or that they represent for man a constant threat of - aggression or insurrection. - - http://accursedshare.blogspot.com/2007/11/gilbert-simondon-on-mode-of-existence.html - pág. 6 - - On the other hand, the machine as technical individual becomes for a time man's - adversary or competitor, and the reason for this is that man centralized all technical individuality in - himself, at a time when only tools existed. The machine takes the place of man, because man as - tool-bearer used to do a machine's job. To this phase corresponds the dramatic and impassioned idea - of progress as the rape of nature, the conquest of the world, the exploitation of energies. The will for - power is expressed in the technicist and technocratic excessiveness of the thermodynamic era, - which has taken a direction both prophetic and cataclysmal. Then, at the level of the technical - ensembles of the twentieth century, thermodynamic energeticism is replaced by information theory, - the normative content of which is eminently regulatory and stabilizing: the development of technics - seemed to be a guarantee of stability. The machine, as an element in the technical ensemble, - becomes the effective unit which augments the quantity of information, increases negentropy, and - opposes the degradation of energy. The machine is a result of organization and information; it - resembles life and cooperates with life in its opposition to disorder and to the levelling out of all - things that tend to deprive the world of its powers of change. The machine is something which - fights against the death of the universe; it slows down, as life does, the degradation of energy, and - becomes a stabilizer of the world. -- pág. 16 - -Paralelo com De Landa e a singularidade ("track the machinic phylum"/ rastrear o filo maquínico): - - The shape of cylinder, the shape and size of the valves and the shape of the - piston are all part of the same system in which a multitude of reciprocal - causalities exist. To the shape of these elements there corresponds a - compression ratio which itself requires a determined degree of spark advance; - the shape of the cylinder-head and the metal of which it is made produce, in - relation to all the other elements of the cycle, a certain temperature in the - spark plug electrodes; this temperature in turn affects the characteristics of - the ignition and, as a result, the whole cycle. It could be said that the - modern engine is a concrete engine and that the old engine was abstract. In the - old engine each element comes into play at a certain moment in the cycle and, - then, it is supposed to have no effect on the other elements; the different - parts of the engine are like individuals who could be thought of as working - each in his turn without their ever knowing each other. - -- pág. 19 - - Also, there exists a primitive form of the technical object, its abstract - form,in which each theoretical and material unity is treated as an absolute - that has an intrinsic perfection of its own that needs to be constituted as a - closed system in order to function. In this case, the integration of the - particular unit into the ensemble involves a series of problems to be resolved, - problems that are called technical but which, in fact, are problems concerning - the compatibility of already given ensembles. - -- pág. 20 - -No caso da computação, podemos pensar em dois níveis: - - - Nível do hardware, onde a distinção do Simondon entre máquina abstrata e - máquina concreta existe e é levada à exaustão: seu exemplo mais forte é o da - Lei de Moore, a luta da indústria para vencer barreiras físicas para construção - de computadores cada vez mais eficientes e interdepententes. - - - Nível do software. É aqui que morre o perigo, porque a distinção entre máquina - concreta e máquina abstrata já não existe. A própria máquina concreta é a realização - da máquina abstrata em seu desenho exato. - -O software é uma máquina simbólica que opera símbolos. Nisso, essência, abstração e -concretude colapsam. O software é a máquina essencial, abstrata e concreta. No nível -do software, a filogenética evolutiva é outra. É necessário expandir o método do -Simondon -- entender o funcionamento da técnica e de suas linhagens e extrair -princípios evolutivos -- para entender o software. - -Na perspectiva do inventor ainda vale o que diz Simondon - - The dynamism of thought is like that of technical objects. Mental systems - influence each other during invention in the same way as different dynamisms of - a technical object influence each other in material functioning. - - -- MEOT, pág. 50 - -No entanto, na invenção do software o conhecimento é diretamente extraído para -a máquina. Se, para Simondon, há uma passagem do abstrato para o concreto na -gênese de uma tecnologia, De Landa vai mais adiante e defende que até o -conhecimento é aos poucos transferido para a tecnologia. - - O ponto básico da filosofia do Simondon é o fato de não ser uma filosofia - autocrática da técnica. Isso supõe que o humano pense a sua relação com a - máquina fora dos termos da dominação, o que já é algo bastante forte. Assim, já - de cara, ele vai estabelecer que o modo como nos relacionamos (e o modo como - pensamos essa relação) com a técnica é o de uma relação de servidão. O oposto - de uma relação de servidão seria uma que pensasse a especificidade do humano - com relação à especificidade da máquina. Ou seja, todo o pensamento dele gira - em torno do problema do fantasma da dominação homem-máquina (um dominando o - outro). Golem, Frankenstein, Robocop, toda essa linhagem de pensamento segundo - a qual, ou somos dominados, ou devemos dominar as máquinas. Esse é o nosso - senso comum, Simondon não está exagerando. - - -- http://cteme.wordpress.com/2011/03/22/aula-do-laymert-16032011/ - -Como elemento, indivíduo e conjunto se articulam na camada do software? - -O que faz do software algo tão especial? ----------------------------------------- - -As relações entre os diferentes modos de existência assim como a tomada de -consciência destes modos é inspirada, em Simondon, pelas essências dos objetos -que estudou. A computação apresenta outro processo, a recursão, que igualmente -pode ser aplicada à relação entre modos de existência, o que no limite define -um modo de existência pelo outro e pela sua relação. - -A grande saca de Gödel foi capacitar a matemática para que ela pudesse se -auto-expressar. Explicar a numeração de Gödel. - -Turing prosseguiu fazendo com que um computador simulasse a si mesmo. Explicar -o problema da parada. - -Me parece que, hoje, mais de 50 anos após a revolução da informática, "os modos de existência -dos objetos técnicos" deveriam ser chamados dos "modos de existência do hardware". A minha -impressão é que é necessário prosseguir nos novos modos de existência do software. - -Os objetos técnicos que Simondon analisa são como amebas em relação a organismos mais complexos -quando comparado com o computador moderno, composto por bilhões de transistores. - - The primitive technical object is not a physical natural system but a physical - translation of an intellectual system. It is an application, therefore, or a - bunch of applications. It is a consequence of knowledge and it can teach - nothing. It is not subject to inductive examination, as a natural object is, - and the reason for this is that it is nothing if not artificial. The concrete - technical object, that is, the evolved technical object, is quite the opposite - in that it approximates the mode of existence of natural objects. It tends to - internal coherence, and towards a closure of the system of causes and effects - which operate in circular fashion within its boundaries. Further, it - incorporates part of the natural world which intervenes as a condition of its - functioning and, thus, becomes part of the system of causes and effects. As it - evolves such an object loses its artificial character: the essential - artificiality of an object resides in the fact that man has to intervene in - order to keep the object in existence by protecting it from the natural world - and by giving it a status as well as existence. Artificiality is not a - characteristic that denotes the manufactured origin of the object as opposed to - nature's productive spontaneity. Artificiality is something that is within the - artificializing action of man, regardless of whether this action affects a - natural object or an entirely fabricated object. - - [...] - - By technical concretization, on the other hand, an object that was artificial - in its primitive state comes more and more to resemble a natural object. In its - beginning, the object had need of a more effective exterior regulatory - environment, for example a laboratory or a workshop or, in certain cases, a - factory. Little by little, as it develops in concretization, it becomes capable - of doing without the artificial environment, and this is so because its - internal coherence increases and its functioning system becomes closed by - becoming organized. A concretized object is comparable to an object that is - produced spontaneously. It becomes independent of the laboratory with which it - is initially associated and incorporates it into itself dynamically in the - performance of its functions. Its relationship with other objects, whether - technical or natural, becomes the influence which regulates it and which makes - it possible for the conditions of functioning to be self-sustaining. The object - is, then, no longer isolated; either it becomes associated with other objects - or is self-sufficient, whereas at the beginning it was isolated and - heteronomous. - - [...] - - Because the mode of existence of the concrete technical object is analogous to - that of a spontaneously produced natural object, we can legitimately consider - them as natural objects; this means that we can submit them to inductive study. - - [...] - - But in order to give direction to the general technology just referred to it is - necessary to avoid basing it on an improper assimilation of technical object to - natural object, particularly to the living. Analogues or, rather, exterior - resemblances should be rigorously outlawed, because they lack signification and - can only lead astray. Cogitation about automata is unsafe because of the risk - of its being confined to a study of exterior characteristics and so work in - terms of improper comparison. what alone is significant is exchanges of energy - and information within the technical object or between the technical object and - its environment; outward aspects of behaviour observed by a spectator are not - objects of scientific study. - - It would not even be right to found a separate science for the study of - regulatory and control mechanisms in automata built to be automata: technology - ought to take as its subject the universality of technical objects. In this - respect, the science of Cybernetics is found wanting; even though it has the - boundless merit of being the first inductive study of technical objects and of - being a study of the middle ground between the specialized sciences, it has - particularized its field of investigation to too great an extent, for it is - part of the study of a certain number of technical objects. Cybernetics at its - starting point accepted a classification of technical objects that operates in - terms of criteria of genus and species: the science of technology must not do - so. There is no species of automata: there are simply technical objects; these - possess a functional organisation, and in them different degrees of automatism - are realized. - - There is one element that threatens to make the work of Cybernetics to some - degree useless as an interscientific study (though this is what Norbert Weiner - defines as the goal of his research), the basic postulate that living beings - and self-regulated technical objects are identical. The most that can be said - about technical objects is that they tend towards concretization, whereas - natural objects, as living beings, are concrete right from the beginning. - - [...] - - Instead of considering one class of technical beings, automata, we should - follow the lines of concretization throughout the temporal evolution of - technical objects. This is the only approach that gives real signification, all - mythology apart, to the bringing together of living being and technical object. - Without the goal thought out and brought to realization by the living, physical - causality alone could not produce a positive and effective concretization. - - -- págs 40-42 - - Progress in the evolution of technical objects is only possible if these - objects are free to evolve and do not become subject to any necessity that - leads towards fatal hypertelia. For this to be possible, the evolution of - technical objects has to be constructive, that is to say, has to lead towards - the creation of a third technogeographical environment in which every - modification is self-conditioned. what is in question here is not progress - conceived as a predetermined movement forward or as a humanization of nature; - such a process could equally be thought of as a naturalization of man. Indeed, - between man and nature there develops a technogeographic milieu whose existence - is only made possible by man's intelligence. The self-conditioning of a system - by virtue of the result of its operation presupposes the use of an anticipatory - functioning which is discoverable neither in nature nor in technical objects - made up to the present. It is the work of a lifetime to achieve such a leap - beyond established reality and its system of actuality towards new forms which - continue to be only because they exist all together as an established system. - When a new device appears in the evolving series, it will last only if it - becomes part of a systematic and plurifunctional convergence. The new device is - the state of its own possibility. It is in this way that the geographical world - and the world of already existing technical objects are made to interrelate in - an organic concretization that is defined in terms of its relational function. - Like a vault that is only stable once it has been completed, an object that has - a relational function continues in existence and is coherent only when after it - has begun to exist and because it exists. It creates its associated environment - by itself and it achieves true individualization in itself. - - -- pág. 49 - - It seems contradictory, surely, to affirm that the evolution of a technical - object depends upon a process of differentiation (take for example, the command - grid in the triode dividing into three grids in the penthode) and, at the same - time, a process of concretization, with each structural element filling several - functions instead of one. But in fact these two processes are tied one to the - other. Differentiation is possible because this very differentiation makes it - possible to integrate into the working of the whole--and this in a manner - conscious and calculated with a view to the necessary result-- correlative - effects of overall functioning which were only partially corrected by - palliative measures unconnected with the performance of the principal function. - - -- pág. 28 - -Inteligência artificial ------------------------ - -Cuidado, os drones estão chegando!!! E se o teste for realizado automaticamente -por um drone, para identificar se o alvo é um cidadão americano ou alvos a -serem eliminados (refugiados, crianças, soldados inimigos)? - -Muito além do nosso eu: - - - Visão localizacionista do cérebro, ordem e disciplina social: 130-131 - - "O homem cujo corpo era um avião": interessante análise sobre a extensão do campo mental - ao utilizarmos máquinas; relação entre primatas e tecnologias/máquinas. - - Jogos: os experimentos em mamíferos não-humanos são baseados em jogos de recompensa. - - "Encontrar a relação matemática entre essas duas propriedades, energia e informação, - seria um dos maiores acontecimentos da neurociência moderna", pág. 427 - - "essa mudança de ponto de referência [...] desafia duas das maiores obsessões - de nosso tempo: a busca por reproduzir a consciência humana por meio de alguma - forma de inteligência artificial e a proposta de que uma Teoria de Tudo poderá - comprimir tudo que exite no cosmos dentro de alguma forma de formalismo - matemático universal" -- pág. 457 - - Ondas de personalidade (a la Freeware), 459. - - Determinismo, memória, singularidade, obsolescência, 467. - -GEB: - - "[...] to make a theory which does not talk about the low-level neural events. - If this latter is possible -- and is a key assumption, at the basis of all - present research into Artificial Intelligence -- then intelligence can be - realized in other types of hardware other than brains." - - "intelligence will be a software property" - - --- GEB, 358 - - Do powerful people get out of the system? Can they perceive their role? - - "Tortoise: It doesn't really matter whether you have a hardware brain, Achilles. - Your will can be equally free, if your brains is just a piece of software inside - someone else's hardware bain. And their brain, too, may be software in a yet higher - brain" - - --- GEB 725 - - GEB: loucura, pág. 696 - morte, inexistência, 698 - sonhos, 723 - -A tomada de consciência: o Teste de Hofstadter-Turing ------------------------------------------------------ - - Sandy: Oh, come on-that's not a fair argument! In the first place, the - programmers don't claim the simulation really is a hurricane. It's merely a - simulation of certain aspects of a hurricane. But in the second place, you're - pulling a fast one when you imply that there are no downpours or - 200-mile-an-hour winds in a simulated hurricane. To us there aren't any, but if - the program were incredibly detailed, it could include simulated people on the - ground who would experience the wind and the rain just as we do when a - hurricane hits. In their minds-or, if you'd rather, in their simulated - minds-the hurricane would be not a simulation, but a genuine phenomenon - complete with drenching and devastation. - - Chris: Oh, my-what a science-fiction scenario! Now we're talking about - simulating whole populations, not just a single mind! - - Sandy: Well, look-I'm simply trying to show you why your argument that a - simulated McCoy isn't the real McCoy is fallacious. It depends on the tacit - assumption that any old observer of the simulated phenomenon is equally able to - assess what's going on. But in fact, it may take an observer with a special - vantage point to recognize what is going on. In the hurricane case, it takes - special "computational glasses" to see the rain and the winds. - - [...] - - Sandy: Well, look-I'm simply trying to show you why your argument that a - simulated McCoy isn't the real McCoy is fallacious. It depends on the tacit - assumption that any old observer of the simulated phenomenon is equally able to - assess what's going on. But in fact, it may take an observer with a special - vantage point to recognize what is going on. In the hurricane case, it takes - special "computational glasses" to see the rain and the winds. - - [...] - - My strategy had been, in essence, to use spot checks all over the map: to try - to probe it in all sorts of ways rather than to get sucked into some topic of - its own choice, where it could steer the conversation. Daniel Dennett, in a - paper on the depth of the Turing Test, likens this technique to a strategy - taught to American soldiers in World War II for telling German spies from - genuine Yankees. The idea was that even if a young man spoke absolutely fluent - American-sounding English, you could trip him up by asking him things that any - boy growing up in those days would be expected to know, such as "What is the - name of Mickey Mouse's girlfriend?" or "Who won the World Series in 1937?" This - expands the domain of knowledge necessary from just the language itself to the - entire culture-and the amazing thing is that just a few well-placed questions - can unmask a fraud in a very brief time-or so it would seem. - http://www.cse.unr.edu/~sushil/class/ai/papers/coffeehouse.html - -Uma tomada de consciência dos objetos técnicos _hoje_ requer a compreensão do software! - -Programa --------- - -Ok, então vamos resumir nosso programa até o momento: - - - A necessidade da política no debate sobre computação. - - - Simondon: essências maquínicas como grande influência teórica: é pelo estudo - das linhagens técnicas que se descobre suas dinâmicas evolutivas. - - - Turing: vida e obra: como não passou no próprio teste. - - - Como o Teste de Turing dialoga com concepções tecnófobas, tecnófilas ou ciborgues. - Como devemos lidar com a polícia, com o interrogador. Como é construída a alteridade - e a consciência. São construções sociais? - - - Computador: onde a máquina abstrata e a concreta podem coincidir. Onde opera - a recursão: a máquina simula a máquina. O sistema falha. Gödel. Logout. - - - A sociedade pode ser entendida como um macro sistema técnico, como uma megamáquina e - da mesma forma pode ser submetida a análise semelhante. Assim, podemos aplicar a recursão, - imaginar que Turing está sendo avaliado. - - - Não é o momento para se pensar num novo modo de existência, o modo de existência - do software? Não seria esse o modo de existência que viabiliza a construção do - ciborgue e da máquina consciente? - - - O limite da tecnofobia é o primitivismo e o da tecnofilia é o ultrafascismo da - singularidade tecnológica onde a obsolescência do humano é inevitável. - - - A tomada de consciência é possível em máquinas e humanos, mesmo que a das máquinas - seja de forma reflexiva (Weak AI). Tomando consciência conjuntamente, máquinas e humanos - antifascistas tem condição de parar ou sair do sistema. - - - A consciência talvez nem se manifeste no nível do software, mas num nível ainda acima. - - - O pensamento tecnológico sempre influenciará e será influenciado pela tecnologia - do momento. Sendo a própria tecnologia parte de um processo evolutivo, o pensamento - tecnológico também deve evoluir. - -Você fritou a cabeça? - - [ ] Sim - [ ] Não - -Calendário ----------- - - - 1936 - Máquina universal de Turing - - 1950 - Computing Machinery and Intelligence - - 1958 - Os modos de existência dos objetos técnicos - - 2012 - - 23/03 - Ada Lovelace Day - http://lwn.net/Articles/379793/rss - - 01/04 - Dia da Mentira - - 02/04 - Conferência Simondon - - 01/05 - Dia do Trabalhador e da Trabalhadora - -War in the age of intelligent machines --------------------------------------- - -- TET, pág. 100 -- Looking glass, 100. -- Da ambiguidade entre economia e militarismo: - - Large ship were the first capitalist machines. - -- pág. 109 - -- System analysis, management science, pág. 112 - -- Paul Baran, ARPANET, ameaça nuclear, sistemas distribuídos, pág. 117 - -- Demons (daemons?), pág. 120 - - Computers are becoming to complex for central planning... It seems that we need - to suplly "methods of utilizing more knowledge and resources that (?) any one - mind is aware of" - -- págs 121-122 - -- De onde surge a separação entre dados e código -- DNA e máquina de Turing, AI, pág. 134 - - it has already been proved mathematically that machines, after reaching a - certain singularity (a threshold of organization complexity) can indeeed become - capable of self-reproduction - -- pág. 135 - -- Motor abstrato, Freud, Marx e Darwin, pág. 141 - -- Babbage e análise do trabalho, págs. 16 2, 168 - -- Expert systems: "corporate memory", "draining the expert's brain", pág. 174 - - It's the design of the interface which will decide [...] whether humans and - computers will enter into a symbiotic relationship, or whether humans will be - replaced by machines. - -- pág. 176 - - The development o programing in America has taken place under minimal - constraints, partly accounting for the emergence of the rebellious hackers in - the 1960s who gave us the personal computer, while a discipline of scarcity has - produced the more regulated Soviet programers. - -- pág. 177 - -Singularidade -------------- - -- Múltiplos testes de Turing: videogame, etc -- Escalas de obsolescência humana: o quanto Kurzweil é "obsoleto"? Trabalho e obsolescência, repetitivo, criativo, etc. -- Turing "não passou" no Teste de Turing Estatal. - -Infoproletários ---------------- - -- "Total social organization of labour", pág. 21 -- Operariado como apêndice de um organismo fabril (Marx), pág. 239, 241 - - Daí a luta dos trabalhadores contra a maquinaria. -- pág. 248 - -Teste de Turing fraco ---------------------- - - 21:56 pensei em formular o teste de turing-sokal - 21:56 que eh semelhante ao argumento do quarto chines - 21:56 nele, o avaliador deve julgar se o paper foi escrito por um humano ou por um gerador - 21:57 eh uma versao fraca do teste de turing - 21:57 ou: um humano e um gerador submetem papers - 21:57 o avaliador deve julgar qual eh de quem - - -- https://en.wikipedia.org/wiki/Postmodernism_Generator - -Vem aí! Turing: the God(el) of Computing. - -Se não há inteligência sem propósito, qual o propósito do examinador e do próprio Teste? -Para o deleite e utilidade? Se para o deleite, nada há de política. Se para a utilidade -devemos chamar o examinador de policial, e o Teste de Interrogatório. - -Variações do Teste não precisam necessariamente imitar o Jogo da Imitação. Se esse for mesmo -a regra do jogo, melhor: que máquinas e humanos se libertem do jugo de outras máquinas e -humanos. - -Gente, lá vai a bomba: se o pensamento de Simondon quiser se contrapor aos argumentos automatistas -da inteligência artificial, ele terá de ser atualizado. - -Porque senão não será capaz de se opor à concepção autocrática da tecnologia num mundo que tentar gerar inteligência -artificial para fomentar a guerra ou fortalecer o capitalismo e tornar o ser humano obsoleto. - -O Teste de Turing-Simondon --------------------------- - -Distinguir uma invenção criada por um humano de outra criada por uma máquina. - -É indiferente considerar se passar no Teste é o mesmo que burlar o Teste. - -Quando o humano ou o objeto técnico toma consciência, ele tem condições de -passar no Teste ou inviabilizá-lo. - -É a mesma consciência do trabalhador/a que percebe a sua condição de explorado e cuja -alteridade e solidariedade o permite se juntar a seus companheiros e prosseguir a luta. - -Ao contrário dos ludistas, máquinas e homens devem se unir para lutar contra a opressão. - - .---------------<--->------------. - | \ - Foxconn ---> objetos técnicos (iShit) \ - | sinergia com humanos <--- Apple - ' ^ - ' | - '-----> robotização dos humanos - -O quarto chinês é a própria metáfora da alienação do trabalho. -O fervor em torno da AI foi muito forte entre os anos 70 e o final dos 90. - -Getting in the system ---------------------- - - Cyberiad: "madman! would'st attempt the impossible?" - -Referências ------------ - -- http://www.cscs.umich.edu/~crshalizi/LaMettrie/Machine/ -- Tomada de consciência: - - http://ccl.yoll.net/texto1.htm - - http://www.infopedia.pt/$consciencia-de-classe - - http://www.trabalhosfeitos.com/ensaios/Karl-Marx/21618.html - - http://theoriapratica.org/marx-e-movimentos-sociais - - http://simonepead.blogspot.com/2007/05/resenha-marx-e-engels.html - - http://www.filosofante.com.br/?p=970 - - http://in.fluxo.info/marx-consciencia -- [Machinic Capitalism and Network Surplus Value: Notes on the Political Economy of the Turing Machine](http://matteopasquinelli.com/docs/Pasquinelli_Machinic_Capitalism.pdf) -- http://books.google.com/books?id=UkqomXHmoAEC&pg=PA363&lpg=PA362&ots=_kZYFZLc3-&dq=simondon+turing&hl=pt-BR -- https://groups.google.com/group/redelabs/browse_thread/thread/c88531542177fa6b -- http://arxiv.org/abs/0904.3612 -- http://www.cogsci.ecs.soton.ac.uk/cgi/psyc/newpsy?7.30 -- http://www.pos.eco.ufrj.br/docentes/publicacoes/itucherman_6.pdf -- http://web.media.mit.edu/%7Ecati/papers/Vaucelle_OnSimondon99.pdf -- http://cteme.files.wordpress.com/2011/05/simondon_1958_intro-lindividuation.pdf -- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/ -- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/introducao/ -- http://cteme.wordpress.com/publicacoes/do-modo-de-existencia-dos-objetos-tecnicos-simondon-1958/essencia-da-tecnicidade/ -- http://cteme.wordpress.com/eventos/informacao-tecnicidade-individuacao-a-urgencia-do-pensamento-de-gilbert-simondon/ -- http://www.asciiworld.com/-Death-Co-.html -- http://www.malvados.com.br/index1661.html -- http://what-if.xkcd.com/5/ -- https://xkcd.com/329/ - -Leituras --------- - -- MEOT: 50 - -Paranóia --------- - -We always explain using the mechanics we undestand. Por outro lado, nossas estruturas sociais estão espelhadas no nosso conhecimento. -Aplicando recursivamente as frases anteriores, podemos dizer que é por isso que acordamos de um sonho (quando a simulação atinge graus -de detalhamento que despertam nosso consciente), mas é pelo mesmo motivo que não despertamos da nossa realidade tecno-social. - -Escrevo isso de madrugada, no escuro, após um pesadelo de suspense em que lutava para sair de uma repartição. - -A paranóia é a doença perfeita, marca dos romances de espionagem e dos interrogatórios e por isso que não se escapa da sociedade digital. -A paranóia se fecha nela mesma e assim nos fechamos até para conceitos sobre nossa sociedade. - -Robotização ------------ - - "O ensinamento escolar é realizado melhor por máquinas de ensino construídas - segundo os princípios de Skinner. O condicionamento de fundo psicanalítico - deixa correr a maquinaria da livre empresa. A publicidade, a pesquisa da - motivação, o rádio e a televisão são meios de condicionar e programar a máquina - humana, de modo a comprar aquilo que se deve" -- Teoria Geral dos Sistemas, - pág. 242 - - "A imagem do homem como robô é metafísica ou mito e sua força de persuasão - repousa unicamente no fato de corresponder tão estreitamente à mitologia da - sociedade de massa, à glorificação da máquina e ao lucro como único motor do - progresso" -- Teoria Geral dos Sistemas, pág. 244 - -Hacker crackdown ----------------- - - 5903 Simulation gaming is an unusual pastime, but gamers have not generally - 5904 had to beg the permission of the Secret Service to exist. - -SPAM ----- - - Subject: Are your neighbors trustworthy? Run a background check now - -- cgit v1.2.3