Embodied Algorithms

2025

Cont.Rolling Exhibition
Space298, Pohang, South Korea

Embodied Algorithms Embodied Algorithms Embodied Algorithms Embodied Algorithms Embodied Algorithms Embodied Algorithms Embodied Algorithms Embodied Algorithms

Multi-layer data visualization, digital print, foam board, coated paper, each 80 × 100 cm
AR / marker-based data exploration interface, iPad
Interactive data sonification, LED display, headphones, webcam

Embodied Algorithms explores the relationship between human intuition and machine logic through the lens of industrial steel production. The work was created in collaboration with Kwon Young-kook, a Korea Master Craftsman at POSCO, one of the world's leading steel manufacturers. Based in Pohang, a major industrial city on South Korea's eastern coast, POSCO's hot rolling plants operate continuously to produce steel coils that form the backbone of global manufacturing.

In the hot rolling process, heated steel slabs are pressed through a series of rollers to form thin sheets. Each stage demands precise coordination of rolling force, temperature, speed and gap distance. These parameters are tightly interdependent, creating a dynamic system that must be balanced in real time. Inside the control room, Master Kwon leads a team that monitors these shifting variables. He reads not just the numbers but the relationships between them, sensing instability before it appears and intervening through both calculation and embodied intuition. In this space, control becomes negotiation. Fluctuations are not errors but signals from the system itself, openings for interpretation and response.

The work interprets this process as a relational field rather than a mechanical operation. It translates the dynamics of steel rolling into an interactive audiovisual environment where audiences engage the system through touch, sound and movement, entering into the complexity rather than observing from outside. The installation unfolds in four phases: beginning with control, then examining structure, exploring depth and ultimately reaching interaction beyond control. This progression reveals that precision often emerges through dialogue rather than domination.

Data Explorer, An AR based app for revealing data structure and sound.

Artwork 01: Correction Behaviour Network

Artwork 02: Efficiency Distribution in Rolling Force

Artwork 03: Stratified Deformation Structure


Technical Structure: Relational System

The interactive framework of Embodied Algorithms is built as a relational system, an architecture that privileges interaction over component-level functionality. In conventional design, systems are composed of discrete modules whose functions combine to form a working whole. In contrast, a relational system emphasises feedback, influence, and interdependence between parts. Behaviour arises not from individual properties but from the evolving dynamics of their relationships.

This approach draws from second-order cybernetics, a branch of systems theory that emerged in the 1970s to study how observers and systems co-construct meaning through feedback. Rather than viewing the observer as external to the system, second-order cybernetics treats observation itself as an act that changes what is observed. Interaction is therefore understood as mutual transformation: when a participant intervenes, the system's state shifts, and that change in turn influences the participant's next action. The result is a closed-loop structure that continuously reconfigures itself through use.

Embodied Algorithms applies this relational logic to a multi-variable industrial process, treating it as a dynamic field rather than a fixed sequence of values. The project functions as an experimental testbed for examining how interaction can make visible the relational dynamics often hidden within optimised industrial systems. Its aim is not technical completion but to foreground negotiation as a way of understanding.

Multimodal Design

The system operates from a data simulation built on principles from industrial process control and hot-rolling engineering research. It models the interdependent variables of rolling force, temperature, speed and gap distance, using normalised ranges and windowed updates to reproduce the continuous negotiation of balance within a dynamic system. This simulation serves as the shared foundation for all interactive components.

The installation consists of four interfaces, each interpreting this live simulation through a distinct modality:

  • Cont.Rolling Interface: A Web Audio API driven environment where adjusting simulated process variables produces immediate changes in sound and visual response.
  • Archived Algorithms: A five-layer physical visualisation representing calibration, efficiency, deformation, stress and thermal dispersion. Audiences explore structural depth by lifting and comparing translucent layers.
  • Data Explorer: An AR.js-based interface that reveals hidden sonic and spatial dimensions within each visualisation, transforming static imagery into living data structures.
  • Responsive Algorithms: A multi-agent environment where gesture-based input subtly influences agent trajectories without overriding their autonomy.

Together, these interfaces articulate a distributed system where complexity is not reduced to a single form but expressed through multiple, interdependent perspectives. Audiences move between these views to understand how structural, temporal and behavioural patterns co-exist, experiencing the system not as a set of outputs but as a continuously negotiated field.

Data Simulation Architecture

The project employs a research-driven simulation grounded in hot-rolling literature and industrial process-control methods rather than relying on proprietary plant data. Hot rolling operates through variables that continuously influence one another, forming patterns of tension and reconciliation. The simulation models these interdependent relationships using established control equations, focusing on how balance shifts over time.

Six core variables (rolling force, gap, total reduction, temperature, speed and pass reduction) are normalised between zero and one and shaped through moving-average windows to generate continuous state transitions. The objective is to express the dynamics of balance and drift within a responsive system. By remaining independent of proprietary data, the work foregrounds instability, intervention and recalibration as essential aspects of process understanding.

A Python-based engine generates the simulation in real time, distributing the data along two pathways:

  • Analytical and visual interfaces for layered observation
  • OSC transmission into Responsive Algorithms for real-time interaction

This division allows audiences to compare structural representation with behavioural response, revealing how systemic balance emerges through continuous feedback.

Behaviour-Driven Systemic Sonification (BDSS)

BDSS interprets process variables as evolving behavioural patterns rather than static values. Inside TouchDesigner, three agents inhabit an XYZ coordinate field. Their positions and tension values shift continuously according to incoming data. These values are converted to MIDI signals that drive three synthesiser voices, producing layered harmonic textures.

Instead of translating single values to single sounds, BDSS renders the negotiation between variables. Sound becomes an interface for sensing balance, drift, and pushback. Gesture input is captured through webcam hand tracking, influencing agent trajectories as a subtle field rather than direct control.

At certain moments, motion, harmony, and gesture align. These emergent events feel perceptually coherent even though they arise from probabilistic behaviour. The work uses sound to stage the sensation of intervention within a living system.

What the Relational System Proposes

From Components to Relationships

To think relationally is to understand systems not as mechanical assemblies but as configurations of interaction. What defines a system is not the solidity of its parts but the exchanges, dependencies and transformations that occur between them.

In this sense, Embodied Algorithms asks a simple but radical question: what if precision itself is relational? Within the installation, every response belongs to a chain of feedback. A gesture alters the algorithm, the algorithm adjusts the sound, and the changed sound reshapes perception. Meaning arises through circulation rather than any isolated component.

The audience is not an external observer but a participant whose actions transform the system's behaviour. Observation becomes participation, and participation becomes reflection. This reflects the principles of second-order cybernetics, a field that examines how cognition and understanding emerge through reciprocal interaction between observer and system.

Data, Truth, and the Ethics of Representation

The decision to work with simulation rather than real industrial data arises from a deeper concern about how data operates within systems of representation. In most data-driven works, information is treated either as an objective record to be faithfully translated or as raw material for aesthetic play. Both approaches overlook that data is already interpretive, shaped by specific methods, measurements and contexts.

In Embodied Algorithms, data is understood not as a record of truth but as a relational construct. Each variable exists through its connection to others, and its meaning emerges through patterns of coherence, drift and recalibration. The simulation models this interdependence, focusing on the structure of relationships rather than precise replication. BDSS extends the same logic into sound, allowing processes of tension, balance and negotiation to unfold as audible behaviour over time.

Rather than displaying data, the work performs it. Gesture, sound and system behaviour form a shared feedback field, where every action alters the conditions of what follows. Representation becomes secondary to relation. What is revealed is not data itself but the structure of its becoming, a space where precision, uncertainty and interpretation coexist.

손끝의 알고리즘

2025

《Cont.Rolling 기술의 미학 2025》
스페이스 298, 포항문화재단

손끝의 알고리즘 손끝의 알고리즘 손끝의 알고리즘 손끝의 알고리즘 손끝의 알고리즘 손끝의 알고리즘 손끝의 알고리즘 손끝의 알고리즘

멀티 레이어 데이터 시각화, 디지털 프린트, 포맥스, 모조지 각 80 x 100cm
AR / 마커 기반 데이터 탐색 인터페이스, 아이패드
인터랙티브 데이터 소니피케이션, LED 디스플레이, 헤드폰, 웹캠

《CONT.ROLLING》은 스페이스298의 '기술의 미학' 시리즈의 일환으로, 2차 산업에서 4차 산업으로 이행하는 전환의 시점에서 기술이 정밀성을 확보하는 방식을 탐구한다. 이번 전시는 포스코(포항제철) 권영국 명장의 연연속 열간 압연 기술 중 '제어(Control)'에 집중한다. 권영국 명장은 〈엔들리스 롤링〉을 통해 사상압연설비를 선보이며, 시스템 아티스트 김희은은 멀티미디어 작품 〈손끝의 알고리즘〉에서 명장의 정밀 제어 기술을 AR, 사운드, 데이터 시각화 등 실시간 인터랙티브 시스템으로 재구성한다. (이병희 독립 큐레이터, 출처: 아트허브)



손끝의 알고리즘은 인간과 기계 사이의 관계를 탐구한다. 연연속열간압연 기술 개발에 참여한 포스코 권영국 명장과의 협업을 통해, 복잡한 시스템이 어떻게 작동하는지 묻는다.

권영국 명장은 컨트롤룸에서 열간압연 공정을 실시간으로 모니터링하는 팀을 이끈다. 열간압연은 압연력, 온도, 속도, 간극 등 수많은 변수가 서로 연결된 공정이다. 공정에는 압연력, 온도, 속도의 변화와 그 패턴들이 흐르고, 이 수치들의 관계가 알고리즘을 이룬다. 이 복잡한 얽힘 속에서 명장은 개별 변수를 넘어, 그것이 어느 시점에서 어떤 변수들과 상호작용하며 현재 상태가 되었는지를 읽으며 균형을 찾는다. 데이터를 분석하고 진단하는 동시에, 기계의 떨림을 감각하고 불안정한 순간을 예감하며 개입한다. 이것은 제어가 아니라 협상이다. 공정에서 나타나는 변동조차 단순한 오류가 아니라 시스템이 보내는 신호이자 새로운 대화의 시작이다.

기술은 이론적 원리만으로 완성되지 않는다. 수십 년간 같은 공정 앞에 서며 축적된 촉각적 지식이 결합될 때 완성된다. 떨림을 읽고, 온도를 감지하며, 타이밍을 몸으로 아는 것. 작품이 주목하는 '손끝'이라는 개념은 바로 이 지점을 가리킨다. 알고리즘과 체화된 감각이 만나는 지점. 작품은 이것을 실연한다. 관객이 직접 손으로 만지고, 조절하고, 움직이며 시스템을 경험한다. 복잡성을 축소하지 않고 그 안으로 들어간다.

작품은 네 단계로 펼쳐진다. 제어에서 시작해, 구조를 살피고, 깊이 탐구하며, 최종적으로 제어를 넘어선 상호작용으로 나아간다. 이 여정은 제어가 종종 협상임을 경험하게 한다. 작품의 사운드도 이 과정을 따라간다. 권영국 명장이 제공한 공정 과정의 녹음된 노이즈에서 시작해, 점차 그 안에서 음악적 조화를 발견한다.

이 멀티미디어 작품세계에서 관객은 손끝으로 질문들을 마주한다. 제어란 무엇인가? 명령인가, 협상인가? 자동화는 최적화만을 의미하는가, 돌봄일 수 있는가? 인간과 기계의 관계는 지배인가, 공존인가?

데이터 탐색기, AR 기반 앱

열간 압연 데이터 01: 보정 알고리즘 구조

열간 압연 데이터 02: 압연 효율 분포

열간 압연 데이터 03: 시계열 구간별 변형 제어값


기술적 구조: 관계형 시스템 (Relational System)

관계형 시스템(relational system)은 시스템의 개별 요소가 아닌 요소 간 관계를 중심으로 설계된 구조다. 일반적인 시스템 설계가 컴포넌트의 기능을 정의하고 조합하는 방식이라면, 관계형 시스템은 컴포넌트 간 상호작용과 피드백을 우선시한다. 시스템의 행동은 개별 부품의 속성이 아니라 관계의 역학에서 창발한다.

이 접근은 2차 사이버네틱스(second-order cybernetics) 원리에 기반한다. 2차 사이버네틱스는 관찰자를 관찰 대상과 분리된 외부가 아니라, 시스템 내부의 일부로 전제한다. 시스템을 외부에서 해석하는 것이 아니라, 상호작용을 통해 이해한다. 이는 단방향 입력-출력 구조가 아닌 순환적 상태 변환 구조를 의미하며, 관찰자의 개입이 시스템 상태를 바꾸고, 변경된 상태가 다시 관찰자에게 영향을 미치는 closed-loop 아키텍처를 형성한다.

손끝의 알고리즘은 열간압연 공정의 다변수 동적 시스템을 이러한 관계형 시스템으로 재구성하는 것을 핵심 기술적 과제로 삼는다. 본 작품은 이 개념을 실험적으로 구현한 초기 테스트베드이며, 기술적 완결성보다는 상호작용이 관계를 어떻게 드러내는가에 초점을 맞췄다. 인터페이스 노드 간 완전한 피드백 루프보다는, 단일 데이터 시뮬레이션이 멀티모달 인터페이스로 분산되는 아키텍처를 먼저 검증하며, 향후 확장 가능성을 탐색한다.

멀티모달 설계

시스템은 네 개의 인터페이스로 구성되며, 각각 동일한 데이터 시뮬레이션을 서로 다른 방식으로 해석한다.

  • 컨트.롤링 인터페이스: Web Audio API 기반 실시간 신디사이저 인터페이스
  • 쌓인 알고리즘: 5층 레이어 물리적 시각화 구조
  • 데이터 탐색기: AR.js 기반 AR 데이터 탐색 시스템
  • 흐르는 알고리즘: 다중 에이전트 시뮬레이션 및 제너러티브 사운드 시스템

이 멀티모달 구조는 단일 시점이 아닌 다중 관점을 통해 시스템을 관찰하게 한다. 복잡한 시스템은 관찰 위치에 따라 전혀 다른 모습을 보인다. 각 인터페이스는 동일한 데이터 시뮬레이션의 다른 차원을 드러낸다: 컨트.롤링 인터페이스는 변수 간 인과 관계를, 쌓인 알고리즘은 층위적 구조를, 데이터 탐색기는 시공간적 분포를, 흐르는 알고리즘은 자율적 역학을 시각화한다. 관객은 이러한 관점을 오가며 시스템이 어떻게 구성되고 변화하는지를 직접 체감한다.

데이터 시뮬레이션 구축

시스템에서 사용되는 데이터는 실제 산업 데이터가 아니라, 관계적 구조를 모델링한 리서치 기반 시뮬레이션이다. 열간압연 공정은 압연력, 온도, 속도, 간극 등 여러 변수가 서로 영향을 주며 균형을 형성한다. 이 작품은 이러한 상호작용의 관계적 논리와 조율의 과정에 주목하며, 개별 수치의 정확한 재현보다 변동과 긴장의 패턴을 다루는 데 목적을 둔다.

시뮬레이션은 공학 문헌과 현장 관찰을 참고하여 변수 간 경향성과 방향성을 근사한다. 여섯 개의 핵심 변수(압연력 RF, 간극 G, 총압하량 FRA, 온도 T, 속도 S, 패스압하량 PR)는 0–1 값으로 정규화되고, moving-average 윈도우를 통해 시간에 따른 연속적 상태 변화를 생성한다. 이 관계는 정밀한 공학 시뮬레이션을 목표로 하지 않으며, 다변수 시스템에서 균형이 형성되는 구조적 감각을 모델링한다.

Python 기반 시뮬레이션 엔진은 실시간으로 데이터를 생성하며, 이를 두 경로로 분산한다:

  • 분석적·시각적 인터페이스를 위한 레이어 관찰
  • OSC 프로토콜을 통한 흐르는 알고리즘으로의 실시간 전송

이 분리는 관객이 구조적 재현과 행동적 반응을 비교하며, 시스템의 균형이 지속적인 피드백을 통해 창발하는 과정을 이해하게 한다.

행동 기반 시스템 소니피케이션 (BDSS)

BDSS는 공정 변수를 고정된 값이 아니라 진화하는 행동 패턴으로 해석한다. TouchDesigner 내부에서 세 개의 에이전트가 XYZ 좌표계에 존재하며, 실시간 데이터에 따라 위치와 긴장도를 조정한다. 이 값들은 MIDI 신호로 변환되어 세 개의 신디사이저 보이스를 구동하며, 중첩된 화성적 텍스처를 생성한다.

BDSS는 단일 값을 단일 소리로 매핑하는 대신, 변수 간 협상을 렌더링한다. 소리는 균형, 표류, 저항을 감지하는 인터페이스가 된다. 웹캠 손 추적을 통해 입력된 제스처는 에이전트의 궤적에 미묘한 필드로 작용하며, 직접적인 제어가 아니라 영향을 준다.

특정 순간, 움직임과 조화와 제스처가 정렬된다. 이 창발적 사건은 확률적 행동에서 비롯되지만 지각적으로 일관되게 느껴진다. 작품은 소리를 통해 살아있는 시스템 내부에서의 개입 감각을 연출한다.

관계형 시스템이 제시하는 것

관계 중심 사고로의 전환

관계형 시스템은 단순한 기술적 구조가 아니라 인식론적 전환을 제안한다. 작품은 기술 시스템이 기능 단위의 조합이 아니라 상호작용이 형성하는 장(場)으로 이해될 수 있는지를 실험한다. 이는 인간-기계 관계에 대한 기존 관점을 다시 생각하게 만든다.

대부분의 기술 시스템은 요소 중심으로 설계된다. 센서는 데이터를 수집하고, 프로세서는 계산하며, 액추에이터는 실행한다. 각 부품의 역할은 명확히 정의되어 있고, 이들의 조합이 시스템을 구성한다. 이러한 구성은 시스템을 '부품들의 합'으로 바라보는 경향을 강화한다.

관계형 시스템은 이 틀을 전환한다. 시스템의 동작은 개별 부품의 속성이 아니라 부품들 사이를 흐르는 피드백과 조율에서 나타난다. 센서와 프로세서 사이의 순환 구조, 데이터와 소리 사이의 변환, 인간 제스처와 알고리즘 사이의 미묘한 영향. 이 관계 구조가 시스템의 정체성을 형성한다. 부품은 교체할 수 있지만, 관계적 패턴은 시스템 고유의 특성으로 남는다.

이 관점은 기술 철학에서 중요한 함의를 갖는다. 기술을 도구로 보는 관점에서는 사용자는 시스템의 외부에 있다. 그러나 관계형 시스템에서 관객은 시스템 내부의 상호작용 주체이며, 관찰자는 관찰 대상과 분리될 수 없다. 관객의 개입은 시스템의 상태를 변경하고, 변경된 상태는 다시 관객에게 피드백을 제공하는 순환 구조를 형성한다. 이는 2차 사이버네틱스가 제시한 내재적 관찰자의 원리와 연결되며, 상호작용이 곧 인지적 모델링으로 확장되는 사고를 제안한다.

데이터, 진실, 그리고 재현의 윤리

손끝의 알고리즘이 실제 산업 데이터를 사용하지 않는다는 선택은 보안적 제약을 넘어, 데이터 재현의 성격을 검토하려는 시도에 기반한다. 데이터 예술은 사실로서의 데이터와 재해석으로서의 데이터 사이에서 오랜 시간 긴장을 유지해왔다.

직접 매핑(direct mapping)은 수치를 정확히 다른 매체로 변환한다고 주장하지만, 변환 함수 자체가 이미 해석의 개입을 전제한다. 반대로 과도한 미학적 재해석은 데이터와 작품의 관계를 느슨하게 만든다. 이 두 극 사이에는 충분히 탐구되지 않은 중간 지대가 존재한다.

데이터는 단순한 가치 중립적 사실이 아니라, 측정 방식과 기록 맥락의 산물이다. 또한 생성된 환경을 완전히 분리할 수 없다. 따라서 데이터는 투명한 사실도, 자유로운 소재도 아니다.

손끝의 알고리즘은 이 딜레마에 세 가지 층위로 응답한다.

첫째, 시뮬레이션은 공정 데이터를 모방하는 것이 아니라, 다변수 시스템의 조율 구조를 모델링한다. 목표는 수치의 정확성이 아니라 관계적 타당성이다.

둘째, BDSS는 데이터를 정적 수치가 아니라 시간에 따라 변화하는 행동 패턴으로 해석한다. 소리는 데이터 간의 긴장, 협상, 균형이 만들어내는 창발적 결과로 드러난다. 이는 데이터의 결과적 상태를 보존하는 대신, 형성 과정을 청각화한다.

셋째, 관계형 시스템은 데이터를 관찰 대상이 아니라 상호작용의 매개로 위치시킨다. 관객의 제스처는 에이전트의 움직임에 영향을 미치고, 그 변화는 다시 관객에게 피드백된다. 데이터는 시스템 내부의 관계적 구조를 드러내는 지점으로 기능한다.

이 세 층위는 데이터 예술의 본질적 문제에 대한 응답을 구성한다. 데이터는 재현될 대상이 아니라, 관계가 생성되는 조건이며, 상호작용이 실연되는 기반이다. 손끝의 알고리즘은 데이터를 보여주는 것이 아니라, 데이터가 가능하게 하는 관계를 경험하게 하는 것을 목표로 한다.