避免内存访问越界 – macOS 使用 NASM 实现动态内存分配

macOS 上，汇编程序可以通过调用 C 标准库中的 _malloc 函数来分配内存。_malloc 函数根据请求的大小分配内存块，并返回指向该内存块的指针。在汇编语言中，函数调用遵循系统的调用约定，参数通过寄存器传递，返回值通常存储在 rax 寄存器中。

在使用 _malloc 分配内存时，必须注意不要访问超出分配范围的内存，否则可能会导致未定义的行为。

详细步骤

1. 新建文件

先创建一个新的汇编文件，例如 test.asm，并定义程序的入口点 _start。

section .text
    global _start

_start:
    ; 汇编程序入口点

2. 调用 _malloc 分配内存

在调用 _malloc 前，需要将要分配的字节数加载到 rdi 寄存器中。_malloc 返回的内存地址将存储在 rax 寄存器中。

    xor rdi, rdi         ; 清空 rdi 寄存器
    mov rdi, 10          ; 将要分配的字节数（10）加载到 rdi 中
    call _malloc         ; 调用 _malloc 函数

3. 使用分配的内存

成功调用 _malloc 后，rax 寄存器中将包含分配的内存地址。可以通过这个地址来访问内存。

    mov qword [rax], 1   ; 将数据写入分配的内存

4. 避免内存越界访问

尽管分配了内存，但访问超出分配范围的内存可能导致程序崩溃或其他未定义行为，应避免访问超出分配范围的内存。

    add rax, 11          ; 试图访问超出分配范围的内存
    mov qword [rax], 1   ; 

5. 退出程序

使用 syscall 退出程序，并返回状态码 0。

    mov rax, 0x2000001   ; syscall 号（退出程序）
    mov rdi, 0           ; 状态码 0
    syscall              ; 调用 syscall 退出程序

完整示例代码

extern _malloc  ; 从 C 标准库引入 _malloc 函数

section .text
    global _start

_start:
    xor rdi, rdi          ; 清空 rdi 寄存器
    mov rdi, 10           ; 将要分配的字节数（10）加载到 rdi 中
    call _malloc          ; 调用 _malloc 函数
    mov qword [rax], 1    ; 将数据写入分配的内存
    add rax, 11           ; 试图访问超出分配范围的内存
    mov qword [rax], 1    ; 写入数据到超出分配范围的内存（不建议这样做）
    mov rax, 0x2000001    ; syscall 号（退出程序）
    mov rdi, 0            ; 状态码 0
    syscall               ; 调用 syscall 退出程序

可使用 NASM 和 GCC 编译并运行程序：

$ nasm -f macho64 -o test.o test.asm
$ gcc -e _start test.o -lc -m64 -o a.out -Wl,-no_pie
$ ./a.out

实际编程中，遵循以上步骤，就能有效地避免内存越界访问的问题。